针对大型旋转机械难以获得大量故障样本和不变矩识别率低的问题,提出基于组合矩和随机森林模型的转子轴心轨迹识别方法。采用实测的轴心轨迹作为样本,采用Sobel算子提取轴心轨迹的轮廓,基于轮廓的形状几何特征和不变矩构造组合矩。将不变矩和组合矩作为随机森林模型的输入进行分类,证明了组合矩的分类准确率最高。对随机森林、支持向量机和BP神经网络的分类效果进行了对比,结果表明:随机森林的分类准确率要高于支持向量机和BP神经网络,并且识别时间较短,是诊断旋转机械故障的一种新方法。