下载掌阅APP，畅读海量书库
立即打开
在视频编码中，对一个宏块可采用多种编码方法，或称多种编码模式。如在H.264视频编码中，可采用帧内编码（I帧），包含Intra4×4和Intra16×16两种模式；也可采用帧间编码（P帧），包含skip、Inter4×4、Inter16×16、Inter16×8、Inter8×16、Inter8×8、Inter8×4、Inter4×8等8种模式。同一宏块采用不同的编码模式编码，得到的码率和失真各不相同，自然要选择一种码率最低、失真最小的模式来对这个宏块进行编码。这一任务可由前述的率失真优化方法来完成。
在拉格朗日参数 λ mode 和量化参数QP选定之后，视频编码器通过最小化拉格朗日代价函数实现对每一个宏块的编码模式的选定。宏块 S k 的拉格朗日代价函数如下式所示：
（2.32）
式中， I k 为相应宏块的编码模式。
在不同的编码模式下，编码后输出比特流的比特率 R rec 与失真度 D rec 的计算方法也不完全相同。在帧内模式下， R rec ( S k , intra| QP)为熵编码后的输出比特率，失真度 D rec ( S k , intra| QP) 则由宏块的原始像素和重建像素决定。有两种计算方式，即SAD方式和SSD（Sum of Squared Difference）方式，常用SAD方式，因为它不需要做平方运算，比较简单。
对于skip模式，由于无需残差信号，因此编码后输出比特率 R rec 近似为1bit/MB，和失真度 D rec 、量化参数无关。失真度 D rec 则由宏块的原始像素值和预测值决定。