【论文#码率控制】ADAPTIVE RATE CONTROL FOR H.264

《ADAPTIVE RATE CONTROL FOR H.264》
Author: Z.G. Li; F. Pan; K.P. Lim; X. Lin; S. Rahardja
Published in: 2004 International Conference on Image Processing, 2004. ICIP '04.
Date of Conference: 24-27 October 2004
Date Added to IEEE Xplore: 18 April 2005
Print ISBN:0-7803-8554-3
Print ISSN: 1522-4880
DOI: 10.1109/ICIP.2004.1419405
Publisher: IEEE
Conference Location: Singapore

摘要

本文提出了一种针对H.264的码率控制方案，通过引入基本单元和线性预测模型的概念。基本单元可以是宏块（MB）、切片或帧。它可以用于在整体编码效率和比特波动之间取得平衡。线性模型用于解决H.264码率控制中存在的“先有鸡还是先有蛋”的困境。本文研究了恒定比特率（CBR）和可变比特率（VBR）两种情况。我们的方案已被H.264采纳

1.前言

码率控制用于根据指定的比特率和当前帧的统计信息（如每个宏块（MB）的MAD和头部比特数）来计算当前帧的量化参数。H.264的码率控制比MPEG-2和TMN 8更复杂，因为在MPEG-2和TMN 8中，当前帧的统计信息是可用的，而在H.264的码率控制中则不可用[1, 2]。这是因为在H.264中，量化参数不仅涉及码率控制，还涉及率失真优化（RDO），而在MPEG-2、MPEG-4和H.263中，量化参数仅涉及码率控制。当在H.264中实现码率控制时，存在一个典型的“蛋鸡悖论”的困境：为了对一个宏块执行RDO，首先需要使用当前帧的统计信息来确定该宏块的量化参数。然而，当前帧的统计信息只有在执行RDO之后才可用。

一种直观的方法是通过前一帧中对应位置的宏块（MB）的统计信息来预测当前帧中每个宏块的统计信息。然而，这种方法在宏块级别存在一些问题。例如，假设当前帧中的一个宏块是I宏块（Intra-MB），而前一帧中对应位置的宏块是P宏块（Inter-MB）。为了解决这个问题，我们引入了“基本单元”的概念，基本单元可以是宏块（MB）、切片或帧。同一基本单元中的所有宏块共享一个共同的量化参数。基本单元的选择取决于编码图片缓冲区（CPB）的大小。然后，通过引入线性模型来预测当前存储图片中剩余基本单元的MAD值，利用前一存储图片中对应位置的基本单元的实际MAD值，提出了一个自适应基本单元层的码率控制方案，用于H.264。这解决了上述的“先有鸡还是先有蛋”的困境。通过线性模型和基本单元的概念，我们的方案详细描述如下：利用流体流量模型和线性跟踪理论，结合帧率、当前缓冲区占用、目标缓冲区水平和可用信道带宽，计算当前帧的目标比特数。目标比特数进一步由考虑假设参考解码器（HRD）得出的两个值进行限制。当前帧的剩余比特数根据预测的MAD值分配给剩余的基本单元。使用二次率失真（R-D）模型计算相应的量化参数，然后用于对当前基本单元中的每个宏块执行RDO。与使用固定量化参数的H.264编码器相比，我们的方案可以将平均PSNR提高多达0.78dB。在正常测试条件下，对于所有H.264测试序列，改进的平均PSNR为0.43dB。我们的方案已被H.264采纳。

PS:
(1) 蛋鸡悖论问题，为了执行RDO，需要统计信息确定量化参数，但统计信息只有在执行一遍RDO之后才可用
(2) 基本单元可以是宏块，slice或者是frame，同一个基本单元中的所有宏块使用同一个量化参数
(3) 引入线性模型来预测当前图片中剩余基本单元的MAD值，依据是前一帧图片对应位置的基本单元实际MAD值
(4) 目标比特数由HRD限制，当前帧剩余比特数由预测MAD值分配给剩余的基本单元
(5) 相对于CQP模式，性能增益为0.78dB；相对于常规环境，增益为0.43dB

2.基本知识

2.1 蛋鸡悖论

H.264码率控制相关的宏块（MB）编码过程如下[31]：当前帧的统计信息 → 码率控制 → 量化参数 → RDO → 当前帧的统计信息 → 熵编码。

显然，在实施码率控制时存在一个“先有鸡还是先有蛋”的困境。正因为如此，H.264的码率控制比TM 5、Q2和TMN 8更困难。为了研究H.264的码率控制，我们需要找到一种方法来估计当前帧的统计信息。除此之外，我们还需要确定共享一个量化参数的连续宏块的数量。

2.2 基本单元的定义

假设一帧由 $N_{mbpic}$ 个宏块（MBs）组成。定义一个基本单元为一组连续的宏块，其中包含 $N_{mbunit}$个宏块，$N_{mbunit}$是$N_{mbpic}$的一个部分[14]。用$N_{unit}$表示一帧中基本单元的总数，计算公式为
$$N_{units}=N_{mbpic}/N_{mbunit}$$
PS:
(1) 类似于HEVC标准中量化组（quantization group，QG）
(2) 这里描述的基本单元对码率控制的功能，类似于x264中的行级码控，但x264中每个mb的qp可以不同，使用每一行的平均qp来控制

2.3 线性MAD预测模型

假设第j幅图像是一个存储的图像，且两个存储图像之间连续的非存储图像的数量为L。提出了以下线性模型（1）来解决“先有鸡还是先有蛋”的困境[14]。

$${\tilde{\sigma }}_{l,i}(j)=a_1\ast {\sigma }_{l,i}(j-L+1)+a_2(1)$$

其中${\tilde{\sigma }}_{l,i}(j)$ 是第i个GOP中当前存储图像的第l个基本单元的预测MAD值。${\sigma }_{l,i}(j-L+1)$是前一个存储图像的第i个基本单元的实际MAD值。$a_1$和$a_2$是预测模型的两个系数。初始值$a_1$设为1，$a_2$设为0。它们在编码每个基本单元后进行更新。

注释 1: 应该指出，${\tilde{\sigma }}_{l,i}(j)$ 是预测的参考值。参考值有许多其他选择。例如，可以在执行RDO之前，对当前图像中的所有宏块（MBs）进行16×16基于的运动估计和运动补偿。我们也可以使用前一帧中最可能的模式进行运动估计和补偿，以获得粗略的信息。所得的MAD也可以用作参考值。为了简化，我们选择\sigma_{l, i}(j - L + 1) 作为参考值。头部比特数也可以通过这种方式获得。同样，预测模型也有许多种，为了简化，我们选择了线性模型。

PS:
(1) 存储图像表示Intra帧、P帧这样会被存储在内存中，用于参考的帧；而B帧这样不会被用于参考的帧称之为非存储图像
(2) 将基本单元假设为mb易于理解，当前mb的MAD值与参考mb的MAD值用线性关系来描述

3.GOP级码率控制

在这个层级，计算分配给每个GOP的总比特数，并设置每个GOP的初始量化参数。

3.1 总比特数

分配给第i个GOP的初始比特数（第一个帧，即IDR帧）按如下方式计算
$$B_i(1)=\frac{R_i(1)}{f}{N}_i+B_{i-1}(N_{i-1})(2)$$
其中 $R_i(j)$ 是可用的信道带宽，可以是恒定的或时变的，$N_{i-1}$表示第(i−1)个GOP中的总帧数，f 是预定义的帧率，由于信道带宽可能随时改变，$B_i$的更新方式为
$$B_i(j)=B_i(j-1)-b_i(j-1)+\frac{R_i(j)-R_i(j-1)}{f}(N_i-j+1);j=2,3,...,N_i$$
其中，$b_i(j-1)$表示第i个GOP当中的第j帧实际编码比特

PS:
(1) 针对于公式(2)，假设i=1，即第一个GOP，有$B_1(1)=\frac{R_1(1)}{f}{N}_1$，其中$\frac{R_1(1)}{f}$表示单帧消耗比特数，$N_1$表示GOP一共有多少帧，二者的乘积表示GOP1的初始比特数。因此，$B_1(1)$表示GOP1总共需要分配多少比特
(2) 针对于$B_i$的更新方式，假设i=1，j=2，即GOP1的第二帧，有$B_1(2)=B_1(1)-b_1(1)+\frac{R_1(2)-R_1(1)}{f}(N_1-1)$，将前面计算的$B_1(1)$带入展开，得到$B_1(2)=\frac{R_1(1)}{f}-b_1(1)+\frac{R_1(2)}{f}(N_1-1)$，其中$\frac{R_1(1)}{f}-b_1(1)$表示预期第一帧编码比特数减去实际比特数，$\frac{R_1(2)}{f}(N_1-1)$表示按照当前带宽进行计算，当前GOP的后续所有帧的预期编码比特数。因此，$B_1(2)$表示的是GOP1，从第二帧开始计算一直到GOP1结束的所有帧比特数，后续的计算如$B_1(3)$、$B_1(4)$类似
(3) 针对于公式(2)，假设i=2，即GOP2，有$B_2(1)=\frac{R_2(1)}{f}{N}_2+B_1(N_1)$。根据前面的理解，$B_1(N_1)$表示的是GOP1，从第$N_1$帧开始计算一直到第一个GOP结束的所有帧的比特数，而GOP1只有$N_1$帧，所以这里的$B_1(N_1)$可以理解为第一个GOP当中预期的编码比特数与实际编码比特数的差异。$\frac{R_2(1)}{f}{N}_2$表示的是以当前带宽计算，帧数为$N_2$总共需要消耗的比特数。因此，$B_2(1)$表示的是在GOP1实际编码情况的基础之上，GOP2预期使用多少比特
(4) $B_{i-1}(N_{i-1})$也被称为虚拟缓冲区（Virtual Buffer），描述了预期编码比特与实际编码比特的差异程度，并以此来调整码率控制。虚拟缓冲区在x264中就是VBV，实现细节上有出入

3.2 初始化量化参数

在本文中，第i个GOP中的初始量化参数$Q{P}_i(1)$是基于可用信道带宽和GOP长度预定义的。IDR图像和GOP的第一个存储图像由$Q{P}_i(1)$编码，其他的$Q{P}_i(1)$的计算方式为
Q P i ( 1 ) = m a x { m i n { S u m P Q P ( i − 1 ) N p ( i − 1 ) − m i n { 2 , N i − 1 15 } , Q P i − 1 ( 1 ) + 2 } , Q P i − 1 ( 1 ) − 2 } QP_{i}(1) =max\{min\{\frac{Sum_{PQP}(i-1)}{N_p(i-1)} - min\{2, \frac{N_{i-1}}{15}\}, QP_{i-1}(1)+2\}, QP_{i-1}(1)-2\} QPi​(1)=max{min{Np​(i−1)SumPQP​(i−1)​−min{2,15Ni−1​​},QPi−1​(1)+2},QPi−1​(1)−2}
其中 $N_p(i-1)$是第(i−1) 个GOP中存储图像的总数，$Su{m}_{PQP}(i-1)$是第(i−1) 个GOP中所有存储图像的量化参数之和。$Q{P}_i(1)$进一步通过以下方式进行调整：
$$Q{P}_i(1)=Q{P}_i(1)-1;ifQ{P}_i(1)>Q{P}_{i-1}(N_{i-1}-L)-2$$
其中$Q{P}_{i-1}(N_{i-1}-L)$是第(i−1) 个GOP中最后一个存储图像的量化参数。显然，$Q{P}_i(1)$既适应于GOP的长度，也适应于可用的信道带宽

PS:
(1) 对于IDR帧和第一个P帧，根据bpp的大小确定qp，bpp的计算方式为$bpp=(bitrate/framerate)\ast N_{pixel}$，即每个像素平均使用的比特数，依据bpp确定qp的方式如下
$qp=\{\begin{array}{rcl}35& & bpp\le L1\\ 25& & bpp\le L2\\ 20& & bpp\le L3\\ 10& & otherwise\end{array}$
其中，L1，L2和L3由视频的宽度计算。对于QCIF视频（176x144）推荐L1 = 0.1，L2 = 0.3，L3 = 0.6;对于CIF视频（352x288）推荐L1 = 0.2，L2 = 0.6，L3 = 1.2;其他情况L1 = 0.6，L2 = 1.4，L3 = 2.4 （参考H264编码-码率控制原理以及JM代码分析）
(2) 其他GOP中初始QP的计算方式可以拆分来理解。
  (a) m i n { 2 , N i − 1 15 } min\{2, \frac{N_{i-1}}{15}\} min{2,15Ni−1​​}表示一个基于GOP内帧数量的调控因子，如果帧数量大于30，则调控因子为2，否则为$\frac{N_{i-1}}{15}$
  (b) m i n { S u m P Q P ( i − 1 ) N p ( i − 1 ) − m i n { 2 , N i − 1 15 } , Q P i − 1 ( 1 ) + 2 } min\{\frac{Sum_{PQP}(i-1)}{N_{p}(i-1)}-min\{2, \frac{N_{i-1}}{15}\},QP_{i-1}(1)+2\} min{Np​(i−1)SumPQP​(i−1)​−min{2,15Ni−1​​},QPi−1​(1)+2}，其中的$\frac{Su{m}_{PQP}(i-1)}{N_p(i-1)}$表示前一个GOP中PQP的平均值。除去调控因子的考虑，这里表示的含义是，前一个GOP中PQP的均值和前一个GOP的初始QP，取二者中小的一个
  (c) m a x { X , Q P i − 1 + 2 } max\{X, QP_{i-1}+2\} max{X,QPi−1​+2}，其中X表示(b)中计算的结果
  (d) 综上所述，其他GOP中初始QP的计算方式将前一个GOP的初始QP和平均实际编码QP进行对比，增加一些调控因子，确定初始QP。这里更像是一个加上调控因子的clip3操作
(3) 如果经过上面的计算之后，当前GOP初始QP值大于前一个GOP最后一个P帧QP - 2，再将当前GOP初始QP减小1，进行微调

4.帧级码率控制

在这一层，计算了非存储图像的量化参数和存储图像的目标比特。

4.1 非存储图像的量化参数

非存储图片的量化参数通过线性插值方法得到，如下所示:

假设第j帧和(j+L+ 1)帧是存储的图片，相邻的两个存储图片$Q{P}_i(j)$和$Q{P}_i(1)$的量化参数分别为。根据以下两种情况给出第k (1<= k <= L)张非存储图片的量化参数:

(1) 情况1 当L=1 时，两个存储图像之间只有一幅非存储图像。量化参数由以下公式计算：
$$Q{P}_i(j+1)=\{\begin{array}{rcl}\frac{Q{P}_i(j)+Q{P}_i(j+2)+2}{2}& & Q{P}_i(j)\ne Q{P}_i(j+2)\\ Q{P}_i(j)+2& & Otherwise\end{array}$$

(2) 情况2 当L>1 时，两个存储图像之间有多幅非存储图像。量化参数由以下公式计算：
Q P i ( j + k ) = Q P i ( j ) + α + m a x { − 2 ( k − 1 ) , m i n { ( Q P i ( j + L + 1 ) − Q P i ( j ) ) ( k − 1 ) L − 1 , 2 ( k − 1 ) } } QP_{i}(j+k)=QP_{i}(j)+\alpha+max\{-2(k-1), \\ min\{\frac{(QP_{i}(j+L+1)-QP_{i}(j))(k-1)}{L-1}, 2(k-1)\}\} QPi​(j+k)=QPi​(j)+α+max{−2(k−1),min{L−1(QPi​(j+L+1)−QPi​(j))(k−1)​,2(k−1)}}
其中$\alpha$是第一个非存储图像的量化参数与 $Q{P}_i(j)$ 之间的差值，计算公式为
$$\alpha =\{\begin{array}{rcl}-3& & Q{P}_i(j+L+1)-Q{P}_i(j)\le -2L-3\\ -2& & Q{P}_i(j+L+1)-Q{P}_i(j)=-2L-2\\ -1& & Q{P}_i(j+L+1)-Q{P}_i(j)=-2L-1\\ 0& & Q{P}_i(j+L+1)-Q{P}_i(j)=-2L\\ 1& & Q{P}_i(j+L+1)-Q{P}_i(j)=-2L+1\\ 2& & Otherwise\end{array}$$

PS:
(1) 非存储图像通常指的是B帧这种不会被其他帧用于参考的图像
(2) 如果L=1，假设当前编码序列为 … P B P …，直接取两个P帧QP的均值
(3) 如果L>1，假设当前编码序列为 … P B B B P …，将计算公式分解
 (a) m i n { ( Q P i ( j + L + 1 ) − Q P i ( j ) ) ( k − 1 ) L − 1 , 2 ( k − 1 ) } min\{\frac{(QP_{i}(j+L+1)-QP_{i}(j))(k-1)}{L-1}, 2(k-1)\} min{L−1(QPi​(j+L+1)−QPi​(j))(k−1)​,2(k−1)}中的$\frac{(Q{P}_i(j+L+1)-Q{P}_i(j))(k-1)}{L-1}$表示第k个B帧，以第j个P帧和第j+L+1个P帧的距离为权重计算的QP调整因子
 (b) m a x { − 2 ( k − 1 ) , X } max\{-2(k-1), X\} max{−2(k−1),X}，其中X表示(a)中计算的结果。(a)和(b)中的步骤是对QP调整权重因子进行clip操作
 (c) 第k个B帧的QP，以第j个P帧的QP作为基础（$Q{P}_i(j)$），加上偏移量（$\alpha$和QP调整因子）获得
 (d) $\alpha$的数值与两个P帧之间的距离有关，经验性参数

4.2 存储图像的目标比特

分配给当前存储图像的比特数应根据当前缓冲区占用情况和图像复杂度进行调整，如下所示：

(1) 步骤1 为当前GOP中的每个存储图像预定义一个目标缓冲区水平。
假设第j幅图像是一个存储图像。该图像的目标缓冲区水平由以下方式确定
$$\begin{gathered} S_i(j)=S_i(j-L-1)-\frac{S_i(2)-\frac{V_s}{8}}{N_p(i)-1}+ \\ \frac{{\overline{W}}_{p,i}(j-L-1)(L+1)R_i(j)}{f({\overline{W}}_{p,i}(j-L-1)+{\overline{W}}_{b,i}(j-1)L)}-\frac{R_i(j)}{f} \end{gathered}$$

其中$S_i(2)$在编码第i个GOP中的第一个存储图像 (即IDR帧) 后重置为$V_i(2)$，$V_s$ 是缓冲区大小，${\overline{W}}_{p,i}(j-L-1)$ 是已编码存储图像的平均复杂度权重 (涵盖过去所有可用于计算的帧集合而非单帧)，${\overline{W}}_{b,i}(j-1)$是已编码非存储图像的复杂度权重[4]。

PS:
(1) 存储图像通常指的是Intra帧以及P帧，因为它们会被用于参考，所以会存储在内存中
(2) 假设当前编码序列为 … P B B B P B B B P …，其中第一个P帧的索引为j-L-1，第二个P帧的索引为j，第三个P帧的索引为j+l+1。在步骤1中，为当前存储图像计算一个缓冲区，将计算的公式进行拆分
  (a) $S_i(j)$表示当前P帧在编码之后的目标缓冲区的比特数
  (b) $S_i(j-L-1)$表示前一个P帧在编码之后的目标缓冲区的比特数
  (c) $\frac{S_i(2)-\frac{V_s}{8}}{N_p(i)-1}$中的$S_i(2)$可以改写成$V_i(2)$，表示第一个存储图像（通常是IDR帧）编码之后buffer中的实际比特数。分子部分表示编码当前帧之后，buffer中的比特数，buffer的实际比特数减去1/8，这是因为在计算复杂度时，当前帧的权重系数为1/8，前面一系列帧的平均复杂度的权重系数为7/8。随后，除以当前GOP中P帧数量减去1。因此，(c)表示了编码当前帧之后实际比特数的多少，或者理解为水池出水量。
  (d) $\frac{{\overline{W}}_{p,i}(j-L-1)(L+1)R_i(j)}{f({\overline{W}}_{p,i}(j-L-1)+{\overline{W}}_{b,i}(j-1)L)}-\frac{R_i(j)}{f}$包含了B帧对当前P帧的影响，将公式中的${\overline{W}}_{p,i}(j-L-1)$和${\overline{W}}_{b,i}(j-L-1)$简记为$W_p$和$W_b$，公式变形为$(\frac{W_p(L+1)}{W_p+W_{b}L}-1)\ast \frac{R_i(j)}{f}$。变形后的公式可以理解为，前一个P帧和前一个B帧分别赋予一个权重，对当前target buffer进行调控，这个权重由距离决定。在变式中，分子中的权重为L+1，表明仅考虑前一个P帧的复杂度对当前P帧的影响；在分母中，P帧复杂度权重为1，B帧复杂度为L，强调了更接近当前帧的B帧的复杂度。如果$W_p$大于$W_b$，则(d)这一项大于0，此时前一个P帧对应的平均复杂度偏高，表明target buffer应该增大一点，以适应较高的复杂度；反之，如果B帧对应的平均复杂度偏高，表明P帧的影响程度较小，target buffer应该减小一点。从这里来看，这个公式中主要的影响因子还是前一个P帧。另外，如果编码序列中没有B帧，则没有(d)这一项

(2) 步骤2 计算当前存储图像的目标比特数。
第i个GOP中的第j幅存储图像的目标比特数根据目标缓冲区水平、帧率、可用信道带宽和实际缓冲区占用情况确定，如下所示：
$${\tilde{T}}_i(j)=\frac{R_i(j)}{f}+\gamma (S_i(j)-V_i(j))$$

其中$V_i(j)$是编码第i个GOP中的第(j−1) 幅存储图像后的实际缓冲区占用情况，$\gamma$是一个常数，当没有非存储图像时其典型值为0.5，否则为0.25。

同时，在计算目标比特时，还应考虑剩余比特的数量
$${\hat{T}}_i(j)=\frac{W_{p,i}(j-L-1)B_i(j)}{W_{p,i}(j-L-1)N_{p,r}+W_{b,i}(j-1)N_{b,r}}$$

其中$N_{p,r}$和$N_{b,r}$分别是剩余存储图像和剩余非存储图像的数量。

目标比特是${\tilde{T}}_i(j)$和${\tilde{T}}_i(j)$的加权组合，如下所示
$$T_i(j)=\beta {\hat{T}}_i(j)+(1-\beta ){\tilde{T}}_i(j)(3)$$

其中p是一个常数，当没有非存储图像时其典型值为0.5，否则为0.9。从公式（3）可以看出，通过选择较小的p可以实现严格的缓冲区节。

为了保持编码帧的质量，目标比特数$T_i(j)$ 被限制在：
T i ( j ) = m a x { T i ( j ) , m h r d , i ( j − L − 1 ) + R i ( j ) 4 f } ( 4 ) T_{i}(j)=max\{T_{i}(j), m_{hrd,i}(j-L-1)+\frac{R_{i}(j)}{4f}\}(4) Ti​(j)=max{Ti​(j),mhrd,i​(j−L−1)+4fRi​(j)​}(4)
其中$m_{hrd,i}(j-L-1)$是用于前一个存储图像的头部和运动矢量的位数。

为了符合HRD（假设参考解码器）的要求，目标比特数进一步被限制为：
T i ( j ) = m i n { m a x { Z i ( j ) , T i ( j ) , U i ( j ) } } ( 5 ) T_{i}(j)=min\{max\{Z_{i}(j), T_{i}(j), U_{i}(j)\}\}(5) Ti​(j)=min{max{Zi​(j),Ti​(j),Ui​(j)}}(5)
其中 $Z_i(j)$ 和$U_i(j)$ 是根据HRD（假设参考解码器）的要求推导出来的[3]

PS:
(1) 在步骤2中，实现的功能是，基于前面的目标缓冲区大小来调整目标比特数
(2) 计算目标比特数时，分为两种情况考虑
  (a) 基于目标缓冲区水平、帧率、可用信道带宽和实际缓冲区占用情况确定，将公式拆解
   (a1) $\frac{R_i(j)}{f}$表示预期编码比特数，由信道带宽和帧率决定
   (a2) $\gamma (S_i(j)-V_i(j))$表示目标缓冲区大小和实际缓冲区大小的差异
   (a3) 结合(a1)和(a2)，这种情况下的目标比特数为预期编码比特数加上缓冲区差异值的调整
  (b) 基于剩余比特的数量确定
   (b1) 将公式中的$W_{p,i}(j-L-1)$和$W_{b,i}(j-1)$用$W_p$和$W_b$代替，可以改写为${\hat{T}}_i(j)=\frac{W_{p,i}{B}_i(j)}{W_{p,i}{N}_{p,r}+W_{b,i}{N}_{b,r}}$，其中$B_i(j)$为剩余比特数，这里表示的含义是当前P帧的目标比特，等于P帧累积复杂度，除以帧类型及对应复杂度乘积。如果没有B帧，则当前公式变形为$B_i(j)\ast \frac{1}{N_{p,r}}$，即当前P帧的目标比特，等于剩余比特数除以剩余P帧的数量

5.基本单元级码率控制

基本单元级别的码率控制选择存储图像中所有基本单元的量化参数值，使得生成的比特数总和接近帧的目标比特数$T_i(j)$。以下是对该方法的逐步描述：

(1) 步骤1: 使用前一个存储图像中对应位置的基本单元的实际MAD值，通过模型（1）预测当前存储图像中剩余基本单元的MAD值

(2) 步骤2: 计算当前基本单元的纹理比特数${\hat{b}}_{l,i}(j)$。此步骤由以下三个子步骤组成：
 (2.1) 步骤2.1 计算当前基本单元的目标比特数。设$T_{r,i}(j)$ 表示当前存储图像中剩余基本单元的剩余比特数，且$T_{r,i}(j)$ 的初始值为$T_i(j)$。第l个基本单元的目标比特数由以下公式给出

$${\tilde{b}}_{l,i}(j)=T_{r,i}(j)\frac{{\tilde{\sigma }}_{l,i}^2(j)}{{\Sigma }_{k=l}^{N_{unit}}{\tilde{\sigma }}_{k,i}^2(j)}$$

 (2.2) 步骤2.2 计算所有已编码基本单元生成的头部比特数的平均值：
$${\tilde{m}}_{hdr,l}={\tilde{m}}_{hdr,l-1}(1-\frac{1}{l})+\frac{{\hat{m}}_{hdr,i}}{l}$$

$$m_{hdr,l}={\tilde{m}}_{hdr,l}\frac{l}{N_{unit}}+m_{hdr,1}(1-\frac{l}{N_{unit}})$$

其中${\hat{m}}_{hdr,i}$是当前存储图像中第l 个基本单元实际生成的头部比特数，$m_{hdr,1}$是从前一帧的所有基本单元中估计的值。

 (2.3) 计算纹理比特数${\hat{b}}_{l,i}(j)$：
$${\hat{b}}_{l,i}(j)={\tilde{b}}_{l,i}(j)-m_{hdr,l}$$

为了保证每个基本单元的质量，${\hat{b}}_{l,i}(j)$随后还会除以$R_i(j)/(4f{N}_{unit})$

PS:
(1) 将总比特数分为纹理比特数和头部比特数，总比特数由步骤(2.1)给出，头部比特数由步骤(2.2)给出，纹理比特数由步骤(2.3)给出
(2) 在步骤(2.2)中，$m_{hdr,l}$表示第l个基本单元的头部比特数，其由两部分组成:
 (a) 基于帧内预测思想，利用当前帧前一个已编码单元，即第l-1个基本单元的头部比特数来获取。其中第l-1个基本单元的头部比特数权重为$(1-\frac{1}{l})$，第l个基本单元实际生成的头部比特数占比为\frac{1}{l}
 (b) 基于帧间预测思想，利用前一帧的所有已编码单元的平均值，即$m_{hdr,1}$
 (c) 计算第l个基本单元的头部比特数时，基于帧内思想获得的比特数权重为$\frac{l}{N_{unit}}$，基于帧间思想获得的比特权重为$1-\frac{l}{N_{unit}}$。举例来说，假设$l=50$，$N_{unit}=120$，即处于整帧的前半部分编码，则帧间的权重较大，这是因为帧间部分使用的是前一帧中所有的已编码单元，这样可参考的信息更多；反之，假设$l=100$，$N_{unit}=120$，即处于整帧的后半部分编码，则帧内的权重较大，这是因为当前帧已经编码了很多单元，帧内可使用的信息足够多，其权重应该更大
(3) 最后，在获取了目标纹理比特数之后，还会做一个rounding

(3) 步骤3: 使用二次R-D模型[3]计算当前基本单元的量化参数。我们需要考虑以下三种情况：
情况1：当前存储图像中的第一个基本单元
$$Q{P}_{l,i}(j)={\widehat{QP}}_i(j-L-1)$$
其中${\widehat{QP}}_i(j-L-1)$ 是前一个存储图像中所有基本单元的量化参数的平均值。

情况2：当$T_{r,i}<0$ 时，当前基本单元的量化参数应大于前一个基本单元的量化参数，以使生成的比特数总和接近$T_i(j)$
$$Q{P}_{l,i}=Q{P}_{l-1,i}(j)+X_{bu}$$
其中，$X_{bu}$是两个连续基本单元的量化参数的变化范围。

为了保持视觉质量的平滑性，量化参数进一步被限制为：
Q P l , i ( j ) = m a x { 0 , Q P ‾ i ( j − L − 1 ) − Y f r , m i n { 51 , Q P ‾ i ( j − L − 1 ) + Y f r , Q P l , i ( j ) } } QP_{l,i}(j)=max\{0,\overline{QP}_{i}(j-L-1)-Y_{fr}, min\{51, \overline{QP}_{i}(j-L-1)+Y_{fr}, QP_{l,i}(j)\}\} QPl,i​(j)=max{0,QP​i​(j−L−1)−Yfr​,min{51,QP​i​(j−L−1)+Yfr​,QPl,i​(j)}}
其中，$Y_{fr}$是量化参数的进一步变化范围

情况3：否则，我们首先使用二次模型[3]和情况2中给出的限制来计算一个量化参数$Q{P}_{l,i}(j)$

(4) 步骤4：对当前基本单元中的所有宏块（MBs）执行RDO。

(5) 步骤5：更新剩余比特数$T_{r,i}(j)$，并更新头部MAD预测模型和二次R-D模型的参数。

(6) 步骤6：编码当前存储图像后，更新${\widehat{QP}}_i(j)$。

PS:
(1) 在步骤3当中，使用的二次RD模型如下，这是一个提案中的公式（Z. G. Li, W. Gao, Feng Pan, S. W. Ma. K. P. Lim, G. N.Feng, X. Lm, R. Susanto, Y. Lu and H. Q. Lu. “Adaptive rate control with HRD consideration”. In 8th meeting:Geneva, 23-27, May, 2003, JVT-H014）
$$Target\_bits=c_1\ast \frac{MAD}{QStep}+c_2\ast \frac{MAD}{QStep\ast QStep}$$
公式描述了量化步长、目标比特和MAD之间的对应关系。延续前面的步骤，这里可以根据前面获得的目标比特来计算QStep，根据QStep和QP的对应表，获得QP
(2) 在确定QP时，分为三种情况
 (a) 如果是第一个基本单元，其QP由前一帧中所有基本编码单元的QP均值来确定
 (b) 如果剩余目标比特小于0，则会适当增大QP。调整的依据是前后量化参数变化的范围
 (c) 如果不属于前面两种情况，则先根据二次RD模型获得一个初始QP，随后添加情况2中的平滑性限制
(3) 在后续的步骤4,5,6中，根据前面计算出来的QP执行RDO过程，更新一系列参数

6.实验结果

我们将具有我们码率控制的H.264编码器的编码效率与具有固定量化参数的H.264编码器的编码效率进行了比较。这种类型的比较是由H.264的临时工作组根据[15]推荐的，实验设置在[4]中给出。表1列出了（Y, PSNR）的实验结果。结果显示，与使用固定量化参数的H.264编码器相比，我们的方案可以将平均PSNR提高多达0.78dB。在正常测试条件下，对于H.264测试序列，改进的平均PSNR为0.43dB。

7.结论

本文通过引入基本单元的概念和线性绝对差（MAD）预测模型，提出了一种自适应的H.264码率控制方案。对于H.264推荐的所有测试序列，整体平均PSNR改进为0.43dB。Remark 1中提供了一种替代方法，这将在我们未来的研究中进行探讨。