H.264/MPEG-4 Part 10 White Paper 译(四) Transform & Quantization(下)

4．                  2X2色度直流系数变换和量化

宏块中的每个色度分量由4个4X4采样块组成。每个4X4块进行第2部分所述的变换。每个4X4系数块的直流系数被组合到一个2X2块（WD）并且在量化前进行进一步的变换。

 

 

2X2输出块YD的量化的实现如下：

 

|ZD(i,j)| = (|YD(i,j)|.MF(0,0) + 2f) >> (qbits+1)

sign(ZD(i,j)) = sign(YD(i,j))

Equation 4-2

其中MF，f和qbits定义如上文相同。

在解码过程中，在逆量化前进行逆变换：

 

 

若QP大于等于6，则逆量化过实现如下：

W’D(i,j) = WQD(i,j).V(0.0).2^floor(QP/6)-1

若QP小于6，则逆量化实现如下：

W’D(i,j) = [WQD(i,j).V(0,0) ]>>1

重建的系数分别替换到对应的4X4色度系数块中，然后做上文所述变换(Ci’W’Ci).和帧内亮度直流系数一样，这个补充的变换起到对2X2色度直流系数去相关的作用，以此来提高压缩效率。

5．                  完整的变换，量化，逆量化和逆变换过程

输入残留块X到输出残留块X’的整个过程如下所述，并在图Figure 5-1中描述。

编码：

1．输入：4X4残留块：      X

2. 正“核心”变换：          W=CfXCf’

(随后对色度直流系数或16X16帧内模式亮度直流系数进行进一步变换)

3．后缩放和量化：            Z=W.PF/(Qstep.2^qbits)

（对色度直流系数和16X16帧内模式亮度直流系数，此式做了修改）

解码：

（对色度直流系数和16X16帧内模式亮度直流系数做逆变换）

4．逆量化（融合了逆变换和预缩放）：

              W’=Z.Qstep.PF.64

（对色度直流系数和16X16帧内模式亮度直流系数，此式做了修改）

5．逆核心变换                   X’=Ci’W’Ci

6．后缩放：                       X’’=round(X’/64)

7．输出：4X4残留采样块：      X’’

 

 

 

例：（4X4亮度残留块，帧间模式）：

QP=10

输入块X为：

 

 

核心变换的输出W为：

 

 

MF=8192，3355或5243(取决于系数位置)，qbits=16。正量化器输出Z为：

 

 

V=16,25或20（取决于系数位置），2^floor(QP/6)=2。逆量化输出W’为：

 

核心逆变换输出X’’（ 除64并取整后）：

 

6．                  参考资料

1 ITU-T Rec. H.264 / ISO/IEC 11496-10, “Advanced Video Coding”, Final Committee Draft, Document JVTF100,December 2002

2 A. Hallapuro and M. Karczewicz, “Low complexity transform and quantization – Part 1: Basic

Implementation”, JVT document JVT-B038, February 2001

3 JVT Reference Software version 4.0, ftp://ftp.imtc-files.org/jvt-experts/reference_software/