- 1 -
中国科技论文在线
Alpha 稳定分布噪声环境下改进 MCC 时延估
计算法
佟祉谏，邱天爽，宋爱民
*
作者简介：佟祉谏（1983-），男，满族，硕士研究生，主要研究方向：非高斯噪声环境下时延估计. E-mail:
lntzj@
（大连理工大学电信学院信号与信息处理专业，辽宁 大连 116023）
摘要：在 alpha 稳定分布噪声环境下，由于最大相关熵（MCC）准则与最小分散系数(MD)准
则具有等价性，使得以相关熵作为代价函数的 MCC 自适应时延估计算法成为解决时延问题的
一个新的思路。MCC 算法与以 MD 准则为基础的传统时延算法相比较，不需要噪声的先验知
识，但是其综合的性能并没有很大的提升。本文提出两种 MCC 的改进算法：归一化 MCC（NMCC）
自适应时延算法和二次迭代 MCC（TMCC）时延估计算法。通过理论分析和计算机仿真结果表
明，这两种算法有较好的收敛性和较小的稳态失调，并且具有较高的抑制稳定分布噪声能力。
关键词：时延估计；alpha 稳定分布；相关熵；归一化相关熵法；二次迭代相关熵法
中图分类号：
Improved MCC TDE methods under alpha-stable
distribution noise environment
Tong Zhijian, Qiu Tianshuang, Song Aimin
(Dalian University of Technology,Signal and Information processing Department,
LiaoNing DaLian 116023)
Abstract: Because the equivalence between minimum dispersion coefficient criterion (MD) and
maximum correntropy criterion (MCC) has been proven, MCC could be used as a new way to solve the
TDE issue under alpha-stable distribution noise background. Even thougth the MCC-TDE algorithm
does not need any prior information about the noise, it fails to present much improvement than the
algorithms based on MD. In this paper, two improved MCC-TDE algorithms have been proposed. It is
demonstrated by computer simulations that the new proposed algorithms are robust under various noise
conditions and presents a very good performance.
Keywords:TDE; alpha-stable distribution; conrrentropy; NMCC-TDE; TMCC-TDE
0 引言
在α 稳定分布噪声环境下，时延估计算法大多基于分数低阶统计量（FLOS）来进行研
究的[1,2]，其中，最小平均 P 范数(LMP)自适应时延估计算法[2]由于其良好的动态跟踪能力和
时变环境的适应能力，受到人们的普遍重视。LMP 算法是基于最小分散系数（MD）准则的，
当参数 2p = 时，它等同于最小均方算法；当 p α< 时，S Sα 过程的 p阶矩是有限的，但
此算法的缺点是需要满足1 2p α< < ≤ 的必要条件，并且它在低广义信噪比（GSNR）下估
计性能较差。
最大相关熵（MCC）算法（简称 MCC 算法）,是最近几年提出的新型的自适应时延估
计算法，文献[3]证明在自适应训练算法中，当误差函数为S Sα 分布过程时，MCC 和 MD 准
则具有等价性，因此可以利用 MCC 构造新的代价函数来进行时延估计。尽管 MCC 算法不
需要像 LMP 算法那样满足一定条件，但是其整体估计性能并没有比 LMP 算法有明显的提
升。本文分别从 MCC 算法中的步长和算法构造两方面着手，提出了两种 MCC 的改进算法：
- 2 -
中国科技论文在线
即变步长 MCC 法和二次迭代 MCC 法。计算机仿真表明这两种方法可以在较低的信噪比下，
有效的估计脉冲噪声环境下的时延值，其性能优于 LMP 自适应时延估计算法和 MCC 自适
应时延估计算法。
1 相关熵与 MCC-TDE
时延估计信号模型
式（1）给出了时延估计模型，如下所示
1 1( ) ( ) ( )x n s n v n= +
2 2( ) ( ) ( )x n s n D v n= − + （1）
其中， 1( )x n 和 2 ( )x n 是接收机检测到的两路观测信号, 1( )v n 和 2 ( )v n 是具有相同分散
系数γ 并且相互独立的S Sα 噪声。D是两路信号之间的真实时延值。
Alpha 稳定分布
α 稳定分布没有统一的封闭形式的概率密度函数，一般常由其特征函数来表征：
( ) ( ) ( ){ }exp j 1 j sgn ,u au u u uαφ γ β ω α= − +⎡ ⎤⎣ ⎦ （2）
其中，
( ) ( )( ) ( )
1, 0
tan / 2 , 1
, , sgn 0, 0 ,
2 / log , 1
1, 0
u
u u u
u u
πα αω α π α
>⎧≠⎧⎪ ⎪= = =⎨ ⎨=⎪ ⎪⎩ − <⎩
（3）
α 为特征指数（0 2α< ≤ ），决定随机过程的脉冲程度，α 愈小脉冲性愈强；γ 为分
散系数，类似于高斯分布的方差，描述稳定分布偏离中心的离散程度；a为位置参数，表述
稳定分布的均值或中值；β 为对称系数， 0β = 时，稳定分布随机变量的概率密度函数关于
位置参数a对称，当 0β = ， 0a = 时称为S Sα 分布（Symmetry α - Stable distribution）。高
斯分布 ( 2, 0)α β= = ，柯西分布 ( 1/ 2, 0)α β= = 都是S Sα 得一些特例。S Sα 分布更适合
刻画现实世界的噪声，尤其是刻画具有较强冲击性的脉冲噪声。本文后面的讨论都是针对
0 2α< ≤ 的 S Sα 分布进行的。
相关熵和 MCC 算法
相关熵既可以看成是基于 Parzen 核估计的 Renyi 二次熵的一种退化表示，又能够反映
两个随机变量的相似度，因此在信道的盲均衡[4]，风力预报[5]，模式识别[6]，噪声抵消[7]，
非线性检测[8]等领域得到广泛的应用。设任意两个随机变量 1 2,X X ，其相关熵定义为[9]：
1 2 1 2( , ) [ ( )]V X X E k X Xσ σ= − （4）
其中，
2
2
1 ( )( ) exp
22
kσ σπσ
⎛ ⎞⋅⋅ = −⎜ ⎟⎝ ⎠
（5）
式中，σ 为核长。式（4）表明，对于固定核长σ ， 1 2( , )V X Xσ 由且只由误差 1 2e X X= −
确定。
- 3 -
中国科技论文在线
在自适应时间延迟估计中，常常将时间延迟的估计转化为对有限脉冲响应（FIR）滤波
器系数的估计，利用估计权系数的峰值得到时间延迟信息 [10]。假定滤波器权系数为
{ }( ),..., (0),..., ( ) Th M h h M−h ，滤波器输出 1( ) ( ) ( )Mi My n h i x n i=−= +∑ ，误差信号 ( )e n 表
示为 2( ) ( ) ( )e n x n y n= − 。根据 MCC 与 MD 准则的等价性[3]，构造出新型的 MCC 自适应
时延算法，其代价函数为：
( )MCC 2 1( ) ( ) ( ) ( )Mi MJ E k x n h i x n iσ =−⎡ ⎤= − +⎢ ⎥⎣ ⎦∑h （6）
MCC ( )J h 的估计为
MCC 2 1
1
1ˆ ( ) ( ) ( ) ( )
2
N M k M
n M k M
J k x n h k x n k
N M σ
− =
= + =−
⎛ ⎞= − +⎜ ⎟− ⎝ ⎠∑ ∑h （7）
利用梯度最速下降法，得到滤波器权系数更新公式：
2
MCC
1 123
ˆ ( ) 1 ( ) exp( ) ( )
22n n nn
J e n e nμ μ σπσ+
⎡ ⎤∂= + = + − ⋅ ⋅⎢ ⎥∂⎢ ⎥⎣ ⎦
h
h h h x
h
（8）
其中， [ ]1 1 1 1( ),..., ( ), ..., ( )x n M x n x n M Τ= − +x ，μ 是自适应收敛因子，时延估计即
为：
MCC
ˆ arg(m ax(m ax ))
i h
D J= −
2 改进 MCC 自适应时延估计算法
归一化 MCC（NMCC）自适应时延估计算法
式（8）中，μ 为迭代步长。在普通的自适应算法中，步长调整一般遵循的原则是：在
初始迭代阶段，步长应较大，可以得到较快的收敛速度；而在收敛阶段，应保持较小的步长，
以达到较低的稳态失调。本文在研究文献中关于步长调整方法[11,12,13]的基础上，发现这些方
法在α 稳定分布噪声条件下的估计效果不够理想。究其原因，主要是由于α 稳定分布噪声
的存在使得信号中存在很大的随机脉冲成分，对滤波器权值的更新造成较大的影响，导致迭
代计算不收敛甚至发散。因此，能否找到一个抵消信号脉冲性的可调节步长是解决问题的关
键。
归一化步长定义如下：
1 1
( ) Tn c
μμ = + x x （9）
其中， c是为了防止内积 1 1Tx x 过小而引入的正常数。我们通过一个实验来检验归一化
步长能否起到抑制脉冲噪声的作用。由式（1）可知 1 1( ) ( ) ( )x n s n v n= + ，实验假设原信号
( )s n 不变，在相同广义信噪比条件下加入不同特征指数α 的稳定分布噪声 1( )v n ，由于特征
指数α 能够决定随机过程的脉冲强度，并且 1x 是带噪信号 1( )x n 的一段样本，因此可以得到
不同脉冲程度的带噪信号 1x ，将其代入到式（9）中，由于特征指数α 取不同值，于是我们
得到一条 ( )nμ 随特征指数α 的变化而变化的曲线，如图（1）所示：
- 4 -
中国科技论文在线
1 2
0
1
2
3
4
x 10-6
α稳定分布噪声特征指数
归
一
化
步
长
μ(
n)
图 1 ( )nμ 在不同脉冲强度的α 稳定分布噪声条件下的变化曲线（GSNR 0dB= ）
Fig. 1 Generalized step size versus the characteristic exponents α ( GSNR 0dB= )
由（1）可知，α 决定了带噪信号 1x 的脉冲程度：当α 较小的时候， 信号 1x 的脉冲性
很强；当α 较大的时候，信号 1x 的脉冲性较弱。由图 1 可知，当α 较小的时候，步长 ( )nμ
很小，于是避免了信号中的强脉冲成分对滤波器权值更新部分的突变影响，保证了迭代计算
的收敛；当α 较大的时候， ( )nμ 较大，于是提高了迭代速度，收敛较快。通过上面的研究
发现，归一化步长调整方法能够根据α 稳定分布噪声脉冲程度的不同，自适应的调节自己
的步长，很好的抑制了脉冲噪声对滤波器权值更新的影响。通过上面步长的改进，我们得到
了归一化 MCC 算法，简称 NMCC，其权系数更新公式为：
2
MCC
1 133
1 1
ˆ ( ) 1 ( ) ( ) . exp( ) ( )
22n n n Tn
J e nn e n
c
μμ σπσ+
⎡ ⎤∂= + = + − ⋅ ⋅⎢ ⎥∂ +⎣ ⎦
hh h h x
h x x
（10）
计算机仿真表明，NMCC 算法比 MCC 和 LMP 算法性能有较大的改善。不过，NMCC
算法的计算量有所增加。
二次迭代 MCC（TMCC）自适应时延估计算法
本文在改进步长的基础上对 MCC 自适应时延算法又进行了更深入的研究，提出一种二
次迭代的方法，即通过两次迭代得到滤波器的更新权值，由式（8）可知 MCC 自适应时延
估计算法的滤波器权值更新公式为
2
MCC
1 1 1 123
ˆ ( ) 1 ( ) exp( ) ( )
22n n nn
J e n e nμ μ σπσ+
⎡ ⎤∂= + = + − ⋅ ⋅⎢ ⎥∂⎢ ⎥⎣ ⎦
h
h h h x
h
，二次迭代 MCC 算法在上
式的基础上，以 nh 为变量又进行了一次迭代运算，公式如下：
2
' '
1n n n
μ= ++h h h （11）
式(8)与（11）共同构成了二次代 MCC 算法滤波器权值的更新公式,式中 1μ 和 2μ 为步长
尺度调节器。为了能够使 nh 快速收敛，本文将 1μ 设置较大，即把 1μ 当作一个大的尺度调
节器，而将 2μ 设置较小，把它当做一个细微的小尺度调节器，目的是在迭代算式接近收敛
阶段，不管测量噪声有多大，脉冲性有多强，都应该保持较小的更新步长，以达到较低的稳
态失调。通过实验论证，系数设置通常为 1μ< < ， μ< < ，估计效果比
较理想。
- 5 -
中国科技论文在线
总之，二次迭代可以看作是一种通过牺牲算法复杂度来提高估计精度的方法，至于比二
次迭代更高次的运算是否能够得到更好的估计精度，本文尚未进行研究和论证。
3 实验仿真与数据分析
为了验证 NMCC 自适应时延估计算法和 TMCC 自适应时延估计算法的性能，我们在计
算机上进行了仿真。并且在基本条件相同的情况下与 MCC 算法和 LMP 算法进行了多方面
的比较。本文以零均值有限带宽的高斯信号作为基本输入信号 ( )s n ，数据长度为 2000 个采
样点，用四阶巴特沃兹滤波器进行限带处理，相对带宽为 ，两路信号的真实时间延迟量
40D = 。FIR 滤波器阶数为 125。广义信噪比定义为： 2GSNR 10 log( / )s wσ γ= ，其中， 2sσ 是
( )s n 的方差， wγ 是 S Sα 噪声 1( )v n （或 2 ( )v n ）的分散系数。本文采用算法参数为：对于
MCC 算法，其相关熵核长 1σ = ，固定步长为；对于变步长 MCC 算法，相关熵核
长 1σ = ，步长
1 1
( ) Tn c
μμ = + x x 中的 μ = ；对于二次迭代 MCC 算法，相关熵核长
1σ = ，一次迭代步长 1 μ = ，二次迭代步长 2 μ = 。对于 LMP 算法，固定步长
为，参数 α= − [1]。以上实验每次实验分别运行500次。
我们分别从误差功率、抗脉冲噪声性能、收敛速度能以及运算量这几方面对以上几种算
法进行对比，首先定义一个算法性能优劣的评判标准：
误差功率：
2
1
ˆ(1 ) ( )W iiW D Dζ == −∑ （12）
其中，W 是每次仿真试验运行的次数， ˆ iD 是第 i次估计结果，D是时延真值。
1 2
0
50
100
150
200
250
300
α稳定分布噪声特征指数
误
差
功
率
LMP-TDE
MCC-TDE
NMCC-TDE
TMCC-TDE
图 2 不同特征指数α 条件下各算法误差功率的比较（ 0GSNR dB= ）
Fig. 2 Error power of different algorithms versus the characteristic exponents α ( GSNR 0dB= )
从图 2 中我们发现，四种算法相比较，MCC 算法在特征指数α 较小的时候，估计误差
功率较大，而其他三种算法的估计性能都比较稳定，没有随着特征指数α 的变化而发生剧烈
变化。然而，LMP 算法的估计与变步长 MCC 和二次迭代 MCC 算法相比误差功率较大。由
此可以得出结论，变步长 MCC 和二次迭代 MCC 算法在不同脉冲程度的稳定分布噪声环境
下，能够保持比较稳定并且较高的估计性能。
- 6 -
中国科技论文在线
-20 -15 -10 -5 0 5 10
0
100
200
300
400
500
600
广义信噪比 /dB
误
差
功
率
LMP-TDE
MCC-TDE
NMCC-TDE
TMCC-TDE
图 3 不同广义信噪比下各算法误差功率的比较（ α = ）
Fig. 3 Error power of different algorithms versus GSNR ( α = )
从图 3 中明显看出，在特征指数 α = 的条件下，LMP 和 MCC 算法随着广义信噪比
的降低，估计性能下降。当信噪比比较低时，LMP 误差功率还出现较大浮动的抖动，说明
其稳定性较差。NMCC 和 TMCC 算法抑制 S Sα 噪声的能力比其他两种算法优秀，不仅能够
在较低的广义信噪比下保持稳定，而且能够给出更加准确的估计结果。
0 50 100 150 200 250 300
0
50
100
LMP-TDE
0 50 100 150 200 250 300
0
50
时
延
估
计
值
MCC-TDE
0 50 100 150 200 250 300
0
50
100
NMCC-TDE
0 50 100 150 200 250 300
0
50
100
迭代次数(GSNR=0dB)
TMCC-TDE
图 4 各算法的收敛速度 (GSNR = 5dB)
Fig. 4 Convergence rate of different algorithms ( GSNR = 5dB)
图 4 中，我们在相同实验条件下（GSNR 0= ， α = ）对各个算法的收敛速度情况
进行了对比，由图可知，四种算法都能够在较小的迭代次数下达到收敛的效果，TMCC-TDE
的收敛性略好于其他三种算法，这也验证了前面所讨论的二次迭代算法中两个步长因子的优
势。
最后，我们来分析一下各种算法的运算复杂度。我们假设四种算法 LMP-TDE、
MCC-TDE、NMCC 和 TMCC 的运算复杂度分别为 LMPθ ， MCCθ ， 1θ 和 2θ 。从 MCC 算法的
权值更新公式（8）中可以看出，MCC 算法和 LMP 算法结构相似，运算量在同一数量级上，
基本相同，因此， MCC LMPθ θ≈ 。从式（10）和式（8）的对比中发现，由于式（10）中多了
- 7 -
中国科技论文在线
一项
1 1
( ) Tn c
μμ = + x x ，因此，每次迭代的运算量增加了 2M 次乘法，一次加法和一次除
法，共增加了大约2M N× 次的运算量。因此，得出 1 2MCC MCCθ θ θ< < 。再将式（11）与式
（8）进行比较，式（11）的运算量共增加了约 N 次加法和 N 次乘法，因此可以得出
2 1 2MCC MCCθ θ θ θ< < < 。
综上所述，各个算法之间的运算量大小关系如下 2 1 2LMP MCC MCCθ θ θ θ θ≈ < < < ，得出结
论，NMCC 和 TMCC 算法通过增加一定的运算复杂度来达到提升估计性能的目的。
4 结论
本文提出的 NMCC 和 TMCC 算法，通过对 MCC 算法在步长和算法构造方面进行改进，
很好的弥补了 MCC 算法在α 稳定分布噪声环境下时延估计性能的不足。通过仿真实验表
明，NMCC 和 TMCC 算法不仅不需要知道噪声的先验知识，而且有着较好的收敛性和较小
的稳态失调，并且具有较高的抑制脉冲噪声能力，实验结果与理论分析一致。
[参考文献] (References)
[1] Ma X and Nikias C L. Joint estimation of time delay and frequency delay in impulsive noise using fractional
lower-order statistics[J] IEEE Trans. Signal Processing, , pp. 2669-2687, Nov. 1996.
[2] So H C. Fractional lower-order moment based adaptive algorithms for time delay estimation in impulsive
noise[J]. 42 Midwest Symposium on Circuits and Systems, Las Cruces, NM, 8-11 Aug., 1999, vol. 2: 985-988.
[3] 宋爱民, 邱天爽，佟祉谏. 对称稳定分布的相关熵及其在时间延迟估计上的应用[J]. 投稿于电子与信息
学报，已录用, 2010.
[4] Santamaria I, Pokharel P P, Principe J C. Generalized correlation function: definition, properties, and
application to blind equalization[J]. IEEE Transactions on Signal Processing, 2006, 54(6): 2187-2197.
[5] Bessa R J, Miranda V, Gama J. Entropy and correntropy against minimum square error in offline and online
three-day ahead wind power forecasting[J]. IEEE Transactions on Power Systems,2009, 24(4): 1657-1666.
[6] Jeong K H, Liu W F, Han S, et al.. The correntropy MACE filter[J]. Pattern Recognit,2009, 42(5): 871-885.
[7] Singh A, Principe J C. Using correntropy as a cost function in linear adaptive filters[J]. Proceedings of the
2009 international joint conference on Neural Networks,Atlanta，USA, -19,2009,2950-2955.
[8] Gunduz A, Principe J C. Correntropy as a novel measure for nonlinearity tests[J]. Signal Processing,2009,
89(1): 14-23.
[9] Liu W F, Pokharel P P, Principe J C. Correntropy : property and applications in non-Gaussian signal
processing[J], IEEE Trans. Signal Process 55(11) (2007) 5286-5298.
[10] Youn D, Ahmed N, Carter G. On using the LMS algorithm for time delay estimation[J], IEEE Transaction on
Acoustics, Speech and Signal Processing, 30(5) (1982) 798-801.
[11] 吴光弼，祝琳瑜.一种变步长 LMS 自适应算法[J].电子学报.1994,22(1):55-60.
[12] 高鹰，谢胜利.一种变步长 LMS 自适应滤波算法及分析[J].电子学报.2001，29（8）：1094-1097.
[13] Gitlin R D, Weinstein S D, The effects of large interference on the tracking capability of digitally
implemented echo cancellers [J]. IEEE Trans on COM, 1978 (6): 833-83.
