针对齿轮传动系统运动角位移跟踪误差较大、振动幅度相对严重等问题,对直齿圆柱齿轮运动过程中产生的角位移和输出扭矩等进行研究。建立齿轮传动系统模型,给出齿轮传动系统动力学方程式。对传统线性PID控制系统进行改进,设计非线性PID控制系统。引入粒子群算法,对粒子群算法权重系数进行改进。采用改进后的粒子群算法优化非线性PID控制系统,通过反馈误差对PID控制器参数进行调节,从而达到控制系统输出误差的补偿目标。利用MATLAB软件对优化后的齿轮传动系统输出误差和扭矩进行仿真,并且与线性PID控制结果进行对比。结果表明:与线性PID控制系统相比,优化后的齿轮传动控制系统能够在线调节各项控制参数,从而提高齿轮传动精度。该控制系统反应速度快,稳定性较好,抗干扰能力强,具有较高的控制精度。