为研究7自由度直齿锥轮传动系统的混沌运动的控制问题，采用集中质量法建立齿轮系统的动力学模型，采用Runge-Kutta法数值求解获得了参数区间内的周期运动向混沌运动转迁规律。针对特定参数区域的混沌运动，以系统Poincaré截面上点的欧式距离作为输入，系统的可控参数的扰动量作为模糊神经网络的输出，构建模糊神经网络控制器。为解决粒子群算法容易陷入局部最优、收敛性差等问题，提出参数自适应和基于动态重心迁移的自适应Lévy飞行改进机制协同的粒子群算法，实现了模糊神经网络控制器的参数优化和快速收敛，从而避免了控制器参数的盲目性。数值仿真表明，该控制策略使相轨迹稳定至周期运动，该法为锥齿轮传动系统的非线性振动控制提供了具有普适性的方案。