为降低高效率视频编码（HEVC）的计算复杂度，提出一种基于深度学习的复杂度优化方法。构建大规模编码单元（CU）划分数据库，为算法设计和神经网络训练提供数据基础；设计一种适用于HEVC的CU划分图模型，高效表征多个邻近CU的划分模式；在此基础上，提出一种基于稠密网络的分层卷积神经网络结构，准确预测HEVC中的三级CU划分结果。实验结果表明：该方法能够在保证编码效率前提下，平均节省57%的编码时间，有效解决了HEVC编码复杂度过高的瓶颈。