H.264模式选择问题

H.264的模式选择问题是编码过程的核心问题。模式选择涉及大量的计算和比较操作，而为了在保证视频质量的前提下，提高编码速度，对其优化就显得十分必要。关于intra预测，对于亮度分量而言，包括三种情况：intra16x16，intra8x8和intra4x4。这三种预测根据纹理又进一步划分为更加具体的分类。对于inter模式选择，既需要对block大小加以确定，也需要对运动矢量加以确定（即相对于编码块或子块而言的偏移），若采用多frame预测的话，还需要对DPB中的参考图象进行选择。选择的结果是得到编码图像的预测值，进而生成残差值。紧接着，需要对残差数据进行变换、量化、熵编码，形成输出码流，具体格式取决于输入参数的设定参数。

   模式选择的过程，同时也就是intra编码模式之间的比较；同时也是搜索引擎对inter预测的搜索过程，加上预测运动矢量以及其残差的编码过程。若采用rdo的话，还需要对其拉格朗日函数进行计算，选择其中的最优解。