摘  要

 

随着短视频、直播的盛行，网络中视频流量的增加，迫切需要进一步提高视频压缩效率，视频编码标准AV1应运而生，AV1是主要由谷歌和开放媒体联盟所研发出来的，并且该标准化编解码器是免版税的，所以在未来的应用前景广阔。

随着深度学习领域的迅速发展，卷积神经网络在计算机视觉领域中展现出来很大的潜力，例如，在图像增强方面，相较于传统滤波器，基于神经网络的滤波器有着更优异的性能。本论文主要研究使用卷积神经网络来替代AV1视频编码器中的环路滤波，以获得更好的编解码增益。本文中主要提出一个简化版的残差网络方案来实现环路滤波功能，该网络是采用若干个残差块来构成，通过叠加多个残差块来提升卷积神经网络的视野，与原残差网络相比，所设计的网络参数量较少，并能显著提升图像增强效果。在实验中，通过关闭AV1编解码器中的环路滤波模块来生成训练集以及测试集，并采用小批量梯度下降法对设计的网络进行训练。实验结果表明，用18组序列的图像在帧间编码模式下，所提出基于残差网络的滤波器相较于原AV1平均提升了6.84%的BD-Rate性能。

 

关键词：卷积神经网络，环路滤波，残差网络，AV1编码

 

 

目  录

 

第一章 绪论 1

1.1 引言 1

1.2 智能视频编码环路滤波研究现状 2

第二章 AV1视频编码中的环路滤波相关技术 3

2.1 AV1环路滤波简介 3

2.2去块滤波器 4

2.3 CDEF约束增强方向滤波器 4

2.4循环恢复器(loop restoration) 5

第三章 神经网络结构及训练方案设计 7

3.1 编码环境及框架 7

3.2 残差网络结构设计 7

3.2.1 残差块 7

3.2.2 网络结构设计 8

3.3 训练方案设计 8

3.3.1 训练集选用 8

3.3.2 训练过程详解 9

3.3.3 超参数设置 9

3.3.4 性能评价标准 10

第四章 结论 12

4.1 客观效果 12

4.2 主观效果 15

参考文献 17

致  谢 18