目前行星齿轮箱已经在军用和民用装备中广泛应用，研究行星齿轮箱的故障诊断方法意义重大。为了研究行星齿轮传动的故障机理，揭示其故障特征，建立了行星齿轮系统的动力学模型，研究了齿轮裂纹对齿轮啮合刚度的影响，得出了正常、太阳轮裂纹和行星轮裂纹等三种状态下系统的振动响应。提出了基于包络排列熵的特征提取方法，以判断行星轮系的运行状态。最后通过实测信号验证了所提特征的有效性。