针对薄煤层采煤机摇臂行星传动齿轮优化设计问题,以优化设计理论为基础,以渐开线圆柱齿轮设计原则、齿面接触疲劳强度、齿根弯曲疲劳强度、行星传动齿轮配齿要求等为约束条件,以行星传动齿轮体积最小为优化设计目标。从具体问题抽象出5个变量,7类边界约束条件和3个关联条件组成的复杂数学模型,分别运用fmincon非线性规划方法和遗传算法,在MATLAB软件上实现问题求解。结果表明,非线性规划和遗传算法两种优化方法都能够达到减小行星减速器体积,提高功率密度的设计目标;遗传算法相比非线性规划方法在寻找全局最优解方面,更有优势。