下载掌阅APP，畅读海量书库
立即打开
率失真理论定义了在不考虑任何约束条件下系统可能达到的最优性能。而在实际编码系统中，为了保证编码的可行性，会受到多种条件约束，最优的编码方案就是在编码系统允许的所有参数值中选择能够使性能最好的参数配置，因此实际系统的性能并不能达到率失真曲线定义的理论值。编码系统所包含的参数很多，最常用到的如量化步长、预测模式及编码模式等，配置不同的值就能得到不同的率失真性能。
为了获得编码系统的率失真性能，可以用一组特定的编码参数配置（如量化步长、宏块模式选择等）对输入信号编码，并测量编码后的码率和重构信号失真，从而可以获得不同参数配置条件下码率和失真的关系，如图2.2 所示。其中“×”表示某一参数下的率失真性能。由于实际编码系统中参数的取值是有限的，因此该曲线上的可操作点是离散的。所有的实验结果形成“可操作点集合”。在这个集合中，最靠近率失真理论曲线的可操作点组成“实际可达 R-D 折线”，也就是系统实际可以达到的最好性能。率失真优化的目的就是找到一组编码参数配置使得对应的可操作点尽可能接近理论线，也就是在一组可能的操作点中确定能使系统性能最优的操作点。
图2.2 可操作率失真曲线示意图
通常使用拉格朗日优化方法选择能使系统的编码性能最优的参数配置。拉格朗日优化方法引入了非负的实数 λ ≥0，也就是拉格朗日因子，得到拉格朗日代价函数 J ( λ ) = D ( x )+ λR ( x )。 J ( λ )越小说明编码性能越好。拉格朗日优化的公式见式（2.1），当编码块之间互不相关，也就是块间的失真和码率不相关时，信源 x 存在满足式（2.1）的最优解。
（2.1）
式中， D ( x )是平均失真， R ( x )是对应的码率。那么，当最优解对应的码率等于 R c 时，该最优解也是式（2.2）的解。
（2.2）
由此可见拉格朗日优化将受限的求极值问题转换为不受限的求极值问题。当式（2.1）求得的最优码率等于给定的码率约束时，它的解也是式（2.2）的解。在式（2.1）中，拉格朗日因子 λ 用来衡量码率和失真的相对重要性。它的物理意义就是率失真曲线的斜率。 λ 越小失真越重要。不论 λ 取什么值，式（2.1）的解都是一条斜率为- λ 的斜线和可操作率失真曲线的凸包络相切的点，因此用拉格朗日优化方法求出的解严格位于可操作率失真曲线的凸包络上。从式（2.1）可以看出， λ 已知时可以很容易地求出在给定 λ 的条件下使系统性能最优的解。在实际应用中通常是在给定码率的约束条件下，对系统进行优化，这时需要首先解出与给定码率约束相对应的 λ 。