H.264学习笔记4——变换量化

　　A、变换量化过程总体介绍

　　经过帧内(16x16和4x4亮度、8x8色度)和帧间(4x4~16x16亮度、4x4~8x8色度)像素块预测之后，得到预测块的残差，为了压缩残差信息的统计冗余，需要对残差数据进行变换和量化操作。变换和量化的总体操作过程如下图：

　　

　　对于Intra_16x16的亮度块，通过16(4x4)个4x4的前向DCT变换，然后对得到的16个DC系数再进行4x4的Hadamard变换，然后对于16个DC系数和240个AC系数进行量化(DC和AC的量化公式略有不同，为了控制量化死区大小，详见量化器设计)。

　　对于8x8的色度块(帧内、帧间)，进行4x4的DCT变换后，得到4个DC和60个AC系数，同样对于DC系数先进行2x2的Hadamard变换后，分别对DC和AC系数进行量化。

　　由于变换块越大，编码的效率越高，且图像的细节信息越能得以保留。所以H.264在HD档次中，支持进行8x8的DCT变换(设置标志transform_size_8x8_flag=1),且不需要对DC系数进行Hadamard变换，DCT变换后对DC和AC系数进行统一的量化处理。

　　然后对于其他尺寸的变换块(不是Intra_16x16、8x8色度，没有transform_size_8x8_flag=1标志)，则简单采用4x4的DCT变换，然后直接对DC和AC系数进行统一量化。

　　B、量化介绍

　　量化是通过多对一的映射，降低比特率。主要有均匀量化、非均匀量化和自适应量化。根据最优量化器设计准则：最佳量化区间的边界值为相邻两个最佳量化值的平均数，最佳量化值为所在量化区间的均值。

　　1、简单的定长标量量化器公式如下：

　　Z = int(|W|/S) * sng(W)。

　　其中W表示输入值，S是量化步长，int(x)表示小于等于x的最大整数，sng(x)表示x的符号，取值-1、0、+1。

　　反量化公式：