- 1 -
中国科技论文在线
一种基于方向相似性的帧内预测算法
杨彦伟，刘彦隆**
作者简介：杨彦伟，（1984-），男 硕士研究生 视频编码及算法优化。
通信联系人：刘彦隆，（1965-），男，副教授，数据压缩与编码
（太原理工大学信息工程学院，太原 030024）
摘要： 帧内预测采用率失真优化(RDO)技术来达到编码效率，通过计算所有预测组合5
模式的率失真代价来确定宏块的最优编码模式，其计算复杂度非常大，因此，如何减小计算
复杂度是算法研究的核心问题。本文从另外一个思路，基于方向的相似性提出一种新的算法。
测试结果显示，本算法在保证视频质量的前提下降低了计算复杂度。
关键词：帧内预测；
中图分类号：�10
A intra-prediction algorithm based on directional similarity
YANG Yanwei, LIU Yanlong
(College of Information Engineering Taiyuan University of Technology, TaiYuan 030024)
Abstract: Rate-distortion optimization (RDO) technique is employed in H. 264 video coding 15
standard to achieve intra-prediction coding computational complexity is extremely
high,So how to reduce the computational complexity of the algorithm is the core problem 。A new
intra-prediction mode selection algorithm based on directional similarity is proposed in this work。
Test results show that the algorithm has reduced the computational complexity in the promise of
ensuring video quality. 20
Keywords: Intra prediction; The optimal model
0 引言
当今社会是一个信息化社会，信息在人们的日常生活中起着非常重要的作用，因此，如
何能快速地获得更准确更全面的信息已经成为人们研究的一大重要问题。如今通过视频传输25
的方式来获得更多的信息是人们信息交流的重要渠道。但是未经过压缩的视频的数据量是十
分巨大的，传输速度也非常慢，因此通过视频信息进行有效的压缩来提高视频信息传输的速
度就显得特别重要。
是当今世界上最先进的视频编码标准，是由 ISO（国际标准化组织）的
MPEG(Motion Picture Expert Group)与 ITU-T(国际电信联合会)的 VCEC(Video Code Expert 30
Group)联合制定的。在相同图像质量下，H. 264 比H. 263+或MPEG-4简单配置要节省近 50%
的码率[2]，但是在提高码率的同时，也大大地增加了计算复杂度。使得 标准在
实时性上有所不足，因此，近年来，对于研究如何提高编码效率与如何减小算法的计算复杂
度就成为研究 的重要方向。本文主要针对 帧内预测部分利用率失真优化
技术具有较高的计算复杂度而本文提出的一种新算法。在保证视频质量基本不变的情况下，35
帧内预测模式选择算法的计算复杂度有所减小。
1 帧内预测
标准帧内预测部分主要提出了两种亮度块预测模式与一种色度块预测模式。
两种亮度块预测模式即 16×16 预测模式和 4×4 预测模式[3]，一种亮度块预测模式是 8*8
预测模式。 40
4x4 预测模式主要用于预测细节繁多的图像，也就是空间变化明显的图像，这样才能够
- 2 -
中国科技论文在线
更好地预测出真实的图像。如图 1（a）从 A 到 M 显示了 4x4 块所需要的预测像素。从 a 到
p 标记的像素为被预测像素，根据不同的选择模式，将选择一些像素使用。图 1（b）显示了
八种预测方向。 标准中 4x4 亮度块预测一共有九中预测模式，如图 2 所示[4]。
45
(a)预测像素 (b)预测方向
(a) Prediction pixels (b) Prediction directions
图 1 4×4帧内预测
Fig. 1 4×4 block intra-prediction 50
Mode 0-垂直预测 Mode 1-水平预测 Mode 2-均值预测
Mode 3-左下角对角线预测 Mode 4-右下角对角线预测 Mode 5-垂直偏右预测
55
Mode 6-水平偏下预测 Mode 7-垂直偏左预测 Mode 9-水平偏上预测
图 2 9种4x4帧内预测模式
. Nine modes of 4x4 intra prediction modes
60
8*8 色度块的预测模式分别是垂直预测模式，水平预测模式，均值预测模式与平面预测
模式。16x16 亮度块预测模式主要用于平滑图像的预测，而预测模式与 8*8 色度块预测模式
类似，此处不在赘述。 中亮度块帧内编码预测模式选择步骤如下。
1) 分别计算 9 种 4x4 块模式的代价函数 Cost4x4，选择具有最小代价的模式
2) 将 16 个 4x4 块最小的 Cost4x4 值相加作为当前宏块在帧内 4x4 模式下的代价函数65
值 Cost
3) 分别计算该宏块在 16x16 四种模式下的代价函数值，选择代价函数值最小的模式
4) 比较该宏块在 4x4 模式下与 16x16 模式下的代价函数值的大小，选择代价函数最小
的作为当前宏块的预测模式。
中的亮度块帧内预测模式选择流程图如图 3. 70
- 3 -
中国科技论文在线
图 3 帧内预测流程图
. intra prediction flowchart
2 本文提出的 4x4 亮度块预测模式选择 75
一般情况下，帧内预测模式选择算法，.有两种方法可以降低预测算法的复杂度，一是
简化代价函数[5]，一是优化选择模式。由于 4x4 块比较小，所以它具有相对平坦的纹理，因
此可以用亚采样像素来代替 4x4 块，这样显然减少了计算复杂度，我们将 16 个像素分成四
组：（1）像素 a，c，i，k；（2）像素 f，h，n，p；（3）像素 e，g，m，o；（4）像素 b，
d，g，l。每一组都是原始块的亚采样。假如通过核查一组就可以确定预测模式，那我们就80
减少了运算，代价函数如下：
这里的 SAD4 是一组中四像素绝对误差和，λ是关于量化参数 QP 的一个指数函数，R
是利用某一模式进行编码的比特数。
当预测块的上面块与左面块都知道的时候，将有一些模式供我们选择，这让我们有机会85
降低所有复杂度，假如代价函数值小于门限值 T,那么它被选择为当前块的选择模式，假如
不是，其它的选择模式都需检验。既然这 9 种模式都具有方向相似性，那么假如一种模式在
以局部搜索之后有一较小的代价函数值，那么最优模式就很可能是这种模式或者是相邻模式
中的一个，因此我们能把计算的数量减小到 3.下面是本文所提出的预测算法模式选择的步
骤： 90
（1）如果当前块在帧的上方或左方，则利用 16 个像素采用第二种模式（DC 与水平模
式为上部块，DC 与垂直模式用于左面的块），然后选择代价函数值最小的模式，否则，直
接进入第二步。
（2）如果代价函数值小于设定的门限值，将最优模式作为预测模式后停止。否则计算
- 4 -
中国科技论文在线
第一组与第二组的 cost4 的值，如果计算的值小于门限值 T,输出最优模式的值，然后停止，95
否则进入第三步。
（3）对于剩下的 8 种模式，计算第一组像素的 cost4，选择这 8 中模式中代价函数值最
小的模式作为预测模式，如果它是第一种模式或者是第二种模式，那么进入第六步，否则进
入第四步。
（4）计算第二组像素的 cost4 的值以及与之相邻两种模式的值（具有方向相似性），100
选择其中一种累加价值最小的模式，然后进入第五步。
（5）比较最优模式与第四步中所选模式的代价值，选择其最小的，如果是第一种或第
二种，进入第六步，否则输出它并停止。
（6）对于模式 1 与模式 2，如果所选模式是 1，计算模式 0,1,2,5,6 的代价值 cost16，输
出代价值最小的模式，如果选择的是 2，计算模式 0,1,2,7,8 的代价值 cost16，然后输出代价105
值最小的模式
3 实验结果分析
为了验证本文提出算法的有效性，我们将算法集成到 中参考源代码
中，使用全 I 帧机构，对 4 个 CIF 格式的视频序列进行实验，采用率失真优化，不同的 QP
值与门限值 T，在保证信噪比基本不变的情况下，与全搜索算法的复杂度以及比特数进行比110
较，实验结果如表 1.
表1 实验结果
Table 1 Experimental results
115
实验结果表明，采用不同的门限值，在保证信噪比与比特数基本不变的情况下，取 QP
依此为 5,16,48，与全搜索算法相比，计算复杂度大大降低，当 QP 值为 48 时，算法的复杂
度平均降低 158.原因很简单，我们取 QP 为 48 时，门限值取了无穷大，这样 SAD 就几乎不
用计算了，对于序列 Stefan 视频序列，在保证信噪比基本不变的情况下，比特数甚至还能降
低 %，因此，这一算法在一定程度上是实用的。 120
4 结论
在这篇论文中，我们提出了一种新的预测模式选择算法，代价函数的局部计算，提前终
- 5 -
中国科技论文在线
止以及最有可能的模式选择使得计算量大大减少，实验结果表明，在 PSNR 基本不变的情况
下，降低了算法的计算量与比特率，在 QP 值越大的情况下，本文的算法结果更好。
125
[参考文献] (References)
[1] Richardson IEG. and MPEG-4 Video Compression [M].England: John Wiley & Sons Ltd，
2004:159-164
[2] Wiegand T, Sullivan G J, Bjontegaard G, et al. Overview of theH. 264 /AVC video coding [J]， IEEE
Transactions on Circuits andSystems for Video Technology, 2003,13(7): 560 -576. 130
[3] "Draft ITU-T recommendation and final draft international standard of joint video specification (ITU-T
14 496-10 AVC,"[S]in Joint Video Team (JVT) of ISO/IEC MPEG and ITU-T
VCEG,JVTG050, 2003:123-144.
[4] Iain E G Richardson. H. 264/MPEG 4 Part 10 White Paper: Predictionof Intra Macro blocks [S].http://
. 135
[5] HUANG Yuan, HSIEH B Y, CHEN T C, et al. Analysis fast algorithm and VLSI architecture design for
intra frame coder[J].IEEE Transactions on Circuits and Systems for Video Technology,2005，
15(3):378-401
