为进一步提高高效视频编码（HEVC）的压缩效率，使其更好地适用于高清视频的压缩，利用深度学习对视频特征强大的挖掘能力，提出了一种多输入的多尺度残差卷积神经网络和网络迭代训练方法，显著提高了HEVC环路滤波的性能；提出了一种新颖的分像素插值滤波方法，进一步提高编码的压缩效率。实验结果表明，本文算法在RA编码模式下平均可以减少7.47%的BD-rate。与现有的两种编码优化算法相比，本文提出的优化算法有效地提升了压缩效率，同时提高了视频质量。