基于Borges差分的RMSprop算法及在卷积神经网络参数训练中的应用

doi:10.16197/j.cnki.lnunse.2023.01.012

辽宁大学学报（自然科学版） ›› 2023, Vol. 50 ›› Issue (01) : 1-9+105. DOI: 10.16197/j.cnki.lnunse.2023.01.012

高哲, 剪静

作者信息 +

History +

摘要

针对RMSprop算法存在梯度消失和局部最优的问题，本文提出了一种基于Borges差分的RMSprop算法并应用到卷积神经网络参数训练方法.根据Borges分形导数的定义，本文给出了Borges差分的定义；将Borges差分与RMSprop算法相结合，提出了基于Borges差分的RMSprop优化算法，提高了图像识别的精度和学习收敛速度；给出了一种基于梯度信息的自适应的调整阶次的方法.本文以Fashion-MNIST数据集为例，分析了阶次对网络参数训练结果的影响，验证了本文提出的算法提高卷积神经网络的识别精度和学习收敛速度的有效性.