-1-
ELMAN 神经网络补偿的航迹融合算法
摘 要:针对目前分布式多传感器多目标跟踪系统中航迹融合的几种主流算法都不可避免的
要计算误差的互协方差,本文提出了一种对局部航迹进行简单凸组合融合(CC 法)后用
ELMAN神经网络来补偿因交互协方差带来的融合误差的新方法,仿真结果表明该方法能有
效地处理多传感器环境下因共同过程噪声而导致的具有交互式协方差的航迹融合问题。
关键词:分布式融合系统;航迹融合;ELMAN神经网络;互协方差
中图分类号:TP391
0 引 言
在多传感器环境中,经常采用两种不同的处理结构,即分布式和集中式[1-3],在集中式
跟踪中,所有传感器的测量都被送到中心站处理。对于分布式跟踪系统,首先量测数据在传
感器站处理并产生局部航迹,然后每个传感器都把它的航迹信息送到中心站完成航迹相关与
融合。它们的结构模型如下图1和图2所示,它们的性能比较在图1、2下面的表格1中。
图 1 集中式多传感器多目标跟踪系统结构
图 2 分布式多传感器多目标跟踪系统结构
本课题得到山西省基础研究计划即自然科学基金(项目编号:2009011018)的资助。
传感器
传感器
传感器
预处理
预处理
预处理
时
空
校
准
\ 控
制
参
数
融合中心
目标
状态
多目标跟踪
多目标跟踪
多目标跟踪
航
迹
关
联
航
迹
融
合
传感器 1
传感器 2
传感器N
预处理
预处理
预处理
时
空
校
准
点 门
迹 技
相 术
关 /
/ 控
数 制
据 参
互 数
航 航
迹 迹
滤 文
波 件
与 综
更 合
新 跟
踪
融合中心
目标
状态
-2-
表 1 集中式和分布式多传感器多目标跟踪系统结构性能比较
融合结构
性能指标
集中式结构 分布式结构
跟踪的连续性和精度 优 良
系统的生存能力 弱 强
对数据的适应能力 弱 强
计算时间和复杂度 高 相对较低
数据传输负载 高 相对较低
如上面的表格1,由于分布式跟踪系统结构有‘即插即用’的特点,便于传感器组网、扩
网,同时还具有较强的生存能力和稳定性,对于数据传输的信道带宽和融合中心的计算能力
要求都较低,所以目前分布式跟踪系统结构被广泛的应用于多传感器多目标跟踪系统中。因
此研究基于分布式结构的航迹融合算法的意义是十分明显的,以下的讨论就是基于分布式结
构的航迹融合算法(且融合中心对局部传感器节点没有反馈,即完全分布式结构)。
1 几种主流的基于分布式结构的航迹融合算法
本节设n为目标状态维数, N 为传感器数目, ( )/ˆ ik kx , ( )/ik kp 分别为传感器i 对k 时刻目标状
态的估计值及其误差协方差阵; ( )/ijk kp 为k 时刻传感器i与传感器j的估计误差的互协方差矩
阵; /ˆk kx , /k kp 为融合后的目标状态估计值及其误差协方差阵。
简单凸组合融合算法(Covariance Convex ,CC)
在航迹融合算法里,Singer等[4]首先提出了简单凸组合融合算法,它假定来自不同传感
器的同一目标的航迹估计误差之间是不相关的。
CC算法N个传感器的融合方程如下:
1
( ) 1 ( ) 1 ( )
/ / / /
1 1
ˆ ˆ( ) ( )
N N
i i i
k k k k k k k k
i i
x p p x
−
− −
= =
⎡ ⎤= ⎢ ⎥⎦⎣∑ ∑ (1)
1 ( ) 1
/ /
1
( )
N
i
k k k k
i
p p− −
=
= ∑ (2)
该算法计算较为简单, 也得到了广泛应用。但由于假设关联目标的状态估计误差统计独
立, 因此仅当互协方差矩阵 ( )/ijk kp =0 时,算法才是最优的。
互协方差组合航迹融合算法 (Bar Shalom-Campo,BC)
实际在大多数情况下 ( )/ 0ijk kp ≠ ,也就是多个局部传感器估计误差之间存在互协方差。Bar
Shalom等[5 ,6]提出了互协方差组合融合方法,稳态条件下,可通过离散Lyapunov 方程求得误差
互协方差矩阵。由于缺乏先验信息,BC 算法也仅是极大似然估计(ML)而非最小均方误差
估计(MMSE)。定义 1 2 N/ / / /ˆ ˆ ˆ ˆ( ) , ( ) ,..., ( )
TT T T
k k k k k k k kX x x x⎡ ⎤= ⎣ ⎦ , [ ]TI IΓ = L 为 nN ×n的矩阵,
I为n×n的单位阵,P为对角线元素是局部估计误差方差 ( )/ik kp 、其他元素是互协方差 ( )/ijk kp 的
N ×n阶方阵,
-3-
中国科技论文在线
11 12 1
21 22 2
1 2
N
N
N N NN
p p p
p p p
p
p p p
⎡ ⎤⎢ ⎥⎢ ⎥=⎢ ⎥⎢ ⎥⎣ ⎦
L
L
M M O M
L
(3)
BC算法N个传感器的融合方程如下:
1 1 1
/
ˆˆ ( )ML T T k kx p p X
− − −= Γ Γ Γ (4)
1 1( )ML Tp p− −= Γ Γ (5)
BC 融合算法尽管仅是在均方根误差意义下的次优算法,但从工程实践所需计算和通讯
资源需求的角度来看,算法简单易实现且融合性能接近最优。
自适应航迹融合算法
[7]提出了一种自适应航迹融合方法,该算法假设航迹关联已经完成,其结构如
图3 所示。与一般分布式融合系统不同的是在算法中融合中心由判决逻辑以及融合节点两部
分组成。其中判决逻辑负责根据当前系统环境自适应地选定航迹融合算法,融合节点则依据
所选定的融合算法求解全局航迹。这里,判决逻辑依据两个距离测度和一个简单的判决逻辑
树作出判决。第1个距离测度允许融合系统根据需要选择是进行航迹融合亦或将本地航迹估
计作为全局估计直接输出。若系统选择进行融合,第2个距离测度将决定融合节点执行何种融
合算法,简单融合还是协方差加权融合。算法判决树结构如图4所示。
首先,根据已关联的各传感器的航迹状态估计计算得到第一个距离测度D1 ,并与门限T1
比较。若D1 小于T1 则融合节点将选择本地航迹估计作为全局航迹估计;否则计算距离测
度D2 ,这里D2 也是局部航迹状态估计的函数。若D2 小于门限T2 则判决融合节点执行简
单融合;否则判决融合节点执行协方差加权融合。这里门限值T1 和T2 代表了系统对融合
航迹质量的要求以及系统可用资源对融合算法的综合影响。
图 3 自适应航机融合算法
其他融合算法
分层融合法也叫信息矩阵法[8] (Information Matrix , IM)
局部航迹 1、2
计算距离 D1
计算距离 D2
D2>T2
D1>T1 直接输出航迹1或2
作为系统航迹
CC 法计算系统航迹
BC 法计算系统航迹
N
N
Y
Y
-4-
中国科技论文在线
分层融合法是由,及三人提出的一种分布式融合算法,其基
本思想是从信息解偶的角度出发,通过信息图识别先验信息,进而在融合算法中删除先验信
息,以避免先验信息对融合估计造成双重影响。
协方差交叉法[3] ( Covariance Intersection , CI)
对于分布式融合系统,若系统结构属于复杂的完全分布式,则极易造成信息的冗余传播,对
冗余信息的双(多)重利用会严重降低融合性能,换个角度讲,此类融合结构下的互相关性非常
复杂,识别(去相关) 冗余信息也几乎是不可能的,利用传统的贝叶斯估计方法也无法解决这
一问题。David 在他的经典著作《Handbook of Multisensor Data Fusion》中提出了协
方差交叉法可以用于任意复杂分布式系统。
其他分布式航迹融合算法
其他分布式航迹融合算法还有伪量测融合算法[9],最大后验意义下的融合算法(MAP)
[10],以及基于最优线性无偏估计(BLUE)的融合算法和加权最小二乘估计(WLS)的融合算法
[11]。乔向东在他的博士毕业论文《信息融合系统中目标跟踪技术研究》[12]中对BC算法、IM
算法及BLUE算法的稳态性能进行了仿真研究和分析对比。
2 ELMAN 神经网络补偿的航迹融合算法
算法思想
BC方法相对于CC法的性能有很大幅度的提高只是在在协方差为正定的前提下,但是在
非正定的情况下,BC法的性能却下降了,甚至比简单融合方法还要差,另外, 的自适
应融合法虽然通过距离矩阵和门限的比较来选择CC法融合或BC法融合,以获得全局估计。但
由于过程噪声的存在,大多数情况下仍然需要使用BC法,无法避免计算交互协方差。而交互协
方差的计算是非常复杂的,因此,本文提出了一种对局部航迹简单融合(CC法)后用ELMAN
神经网络来补偿因交互协方差带来的融合误差的新方法,融合结构见下图4。
图 4 ELMAN 神经网络补偿的航机融合系统结构
数学根据
目标的动态模型可以定义为: 1k k kX X Gw+ = Φ + , m mk k kZ HX v= + ,其中 kX 为状态
向量,Φ为状态矩阵,G为转移矩阵, kw 为过程噪声, mkv 为观测噪声,且分别为误差方差
传感器 1
传感器 2
Kalman 滤波
Kalman 滤波
CC 法
ELMAN
神经网络
全局融
合估计
误差补偿
测量值
测量值
1
kK
2kK
-5-
中国科技论文在线
为Q和R 相互独立的的零均值高斯白噪声。Z为观测向量,H为观测矩阵。为方便讨论问题,
本文中假定两个传感器都是跟踪同一个目标。
传感器m的目标状态估计可以从以下Kalman滤波方程得到:
1/ 1 / 1 1
m m m m
k k k k k kX X K d+ + + += Φ + (6)
1
1 1/ 1/
m m T m T m
k k k k k kK p H Hp H R
−
+ + +⎡ ⎤= +⎣ ⎦ (7)
1 1 /Z
m m m
k k k kd H x+ += − Φ (8)
1/ /
m m T
k k k k kp p Q+ = Φ Φ + (9)
1/ 1 1 1/
m m m
k k k k kp I K H p+ + + +⎡ ⎤= −⎣ ⎦ (10)
文中m=1、2, mkK 为Klman滤波增益, mkd 为局部航迹的残差矩阵。
基于共同过程噪声的两传感器交互式协方差[1]为:
12 1 12 2
/ 1/ 1[ ]
TT
k k k k k kp I K H p Q I K H− −⎡ ⎤ ⎡ ⎤= − Φ Φ + −⎣ ⎦ ⎣ ⎦ 且 120/0 0p = (11)
从式(11)中可以看出交互式协方差主要是同卡尔曼滤波器的增益 mkK 相关,而由式(6)
变形可求出 1/ 1/ 1 ( )m m m mk k k k k kK X X d −− −⎡ ⎤= − Φ ×⎣ ⎦ ,并且 / 1/ 1m mk k k kX X − −− Φ 和 mkd 都是直接和过程噪
声相关的, 因此卡尔曼增益 mkK 作为神经网络的输入,经过ELMAN神经网络计算可以得到
的两传感器局部航迹交互误差的近似补偿值,以达到减少因交互式协方差或模型变化所引起
的估计误差的目的。因为就仿真而言目标的真实状态是已知的,因此,可使用误差(真实状态和
基于CC法的目标状态估计之间的差值)来训练神经网络的输出。
假定两个传感器同步开机同步采样,传感器所用观测坐标系也是一致的,则两传感器
的CC法方程为:
1 1 1 2 1 2
/ / / / / /( ) ( )
cc cc
k k k k k k k k k k k kx p p x p x
− −⎡ ⎤= +⎣ ⎦ (12)
( ) ( ) 11 11 2/ / /cck k k k k kp p p −− −⎡ ⎤= +⎢ ⎥⎣ ⎦ (13)
ELMAN 神经网络
ELMAN神经网络是Elman于1990年提出的,该模型在前馈网络的隐含层中增加了一个
结构层(承接层),作为一部延时算子,以达到记忆的目的,从而使系统具有适应时变特性
的能力,能直接反映动态系统的特性。作为局部反馈神经网络ELMAN神经网络相对于传统
的BP神经网络来说,不容易收敛到局部极小点,而且收敛速度是比较快的,适合于目标跟
踪的要求。
ELMAN 神经网络结构
-6-
中国科技论文在线
图 5 ELMAN 神经网络结构
如图5,ELMAN神经网络可以看作是一个具有局部记忆单元和局部反馈连接的前向
神经网络,一般分为4层:输入层、中间层(隐含层) 、结构层和输出层,结构层(承接层)是
从隐含层的输出到输入层(所以结构层又称为上下文单元)。输入层的单元仅起信号传输作用,
输出层单元起线性加权作用,结构层用来记忆隐含层单元前一时刻的输出值,这种反馈方式
使得ELMAN网络能够探测和识别时变模式[13],可以以任意精度逼近任意函数[14] ,唯一的要
求是其隐含层必须有足够的神经元数目。隐层神经元数越多,则逼近复杂函数的精度就越高。
因为网络可以存储信息,所以不但可以学习空间模式,也可以学习时间模式。王秀芳在参考文
献[15]中把ELMAN神经网络用来对随钻测斜仪中的传感器做温度误差补偿。
ELMAN 神经网络的数学模型
它的非线性状态空间表达式为:
( )1 2( ) ( ) ( 1)cx k f w x k w u k= + − (14)
( ) ( 1)cx k x k= − (15)
3( ) ( ( ))y k g w x k= (16)
其中, , , , cy x u x 分别表示m维输出结点向量,n维中间层节点单元向量,r维输入向量,
和n维反馈状态向量。连接权 1w 为结构层单元与隐层单元的连接权矩阵, 2w 为输入单元与
隐层单元的连接权矩阵, 3w 为隐层单元与输出单元的连接权矩阵, ( )g 为输出神经元的传
递函数(本文用pureline),是隐含层输出的线性组合。 ( )f 为隐含层神经元的传递函数(本
文用sigmoid函数)。
1( )
1 x
f x
e−
= + (sigmoid函数) (17)
ELMAN 神经网络学习算法
ELMAN 神经网络中3 个连接权值 1w , 2w , 3w 采用标准梯度下降法[16] 的学习算法来确
定,同时采用附加动量法来避免或抑制产生振荡,采用自适应改变各参数的学习率加快网络的
收敛速度。下面给出具体的权值学习算法。ELMAN神经网络的学习指标函数采用误差平方
和函数,即:
输入层
隐含层
输出层
1w
2w
3w
( )x τ
( )y τ
( 1)µ τ −
结构层
-7-
中国科技论文在线
[ ]2 2
1 1
1 1( ) ( ) ( ) ( )
2 2
n n
k k
k k
E w y w y w e k
= =
= − =∑ ∑% (18)
式中, ( )ky w% 为目标输出向量
根据梯度下降法,网络的权值调整算式如下:
( 1) ( ) ( ) EW t W t W W t
W
η ∂+ = + ∆ = − ∂
(19)
1) 隐含层到输出层的权值 3w 调整算法:
' 3
3 3
( ) ( ) ( ( )) ( )
( )
E E y k e k g w x k x k
w y k w
∂ ∂ ∂= = −∂ ∂ ∂ (20)
从而得到 3w 的第 t+1 次调整算式:
3 3 ' 3( 1 ) ( ) ( ) ( ( ))w t w t e k x k g w x kη+ = +) ( (21)
2) 输出层到隐含层的权值 2w 调整算法:
' 3
2 2
3 ' 1 2
( ) ( ) ( ) ( ( ))
( ) ( ) ( )
( ( 1) ( ( 1))) ( 1)
E E y k x k e k g w x k
w y k x k w k
w f w x k w u k u k
∂ ∂ ∂ ∂= = − ⋅∂ ∂ ∂ ∂
− + − −
(22)
从而得 2w 的第 t+1 次调整算式:
2 2 3
' 3 ' 1 2
( 1 ) ( ) ( 1)
( ( )) ( ( 1) ( ( 1)))
w t w t e k w u k
g w x k f w x k w u k
η+ = + − ⋅
− + −
) ( (23)
3) 结构层到隐含层的权值 1w 调整算法:
' 3
1 1
3 ' 1 2
( ) ( ) ( ) ( ( ))
( ) ( ) ( )
( ( 1) ( ( 1))) ( 1)
E E y k x k e k g w x k
w y k x k w k
w f w x k w u k x k
∂ ∂ ∂ ∂= = − ⋅∂ ∂ ∂ ∂
− + − −
(24)
从而得到 1w 的第 t+1 次调整算式:
1 1 3
' 3 ' 1 2
( 1 ) ( ) ( 1)
( ( )) ( ( 1) ( ( 1)))
w t w t e k w x k
g w x k f w x k w u k
η+ = + − ⋅
− + −
) ( (25)
此外,为了改善神经网络的学习性能,本文采用如下的改进学习算法。
1) 附加动量项。
为使学习速率足够大,又不易产生振荡,在权值调整算法式(19) 中加入阻尼项:
( 1) ( ) [ ( ) ( 1)]EW t W t W t W t
W
η α∂+ = − + − −∂ (26)
式中α 为阻尼系数,0 1α< <
2) 自适应改变各参数的学习率。
( ) ( 1) ( 1)( 1) ( ) ( ) /t t tt t E E Eη η ε − −+ = + − (27)
其中: ( ) ( 1)t tE E −、 分别表示第 t 次、第 t - 1 次的学习指标函数;ε 为学习率的改变速率,
0 <ε < 1。
在训练过程中对学习效率进行自适应调整,可以提高网络的训练效率,加快网络的收敛速
度。此外,这种方法在对权值更新时不仅考虑了当前的梯度方向,而且考虑了前一时刻的梯度
方向,从而降低了网络性能对参数调整的敏感性,有效地抑制了局部极小值的出现。
-8-
中国科技论文在线
3 实验仿真与分析
为了便于讨论问题,本实验假定两部二维传感器同时跟踪同一个目标(省略讨论多目标
跟踪和航迹关联的问题)。传感器跟踪滤波在直角坐标系中完成,观测在极坐标下完成,各
传感器同步采样,且数据的传输延迟为零。T=1秒为采样时间。融合时,以融合中心为坐标
原点,各传感器数据转化到融合中心为原点的直角坐标系下。
目标状态方程为: 1k k kX X Gw+ = Φ + ,对应过程噪声误差方差阵
2
2
0
( )
0
xy
xy
q
Q k
q
⎡ ⎤= ⎢ ⎥⎢ ⎥⎣ ⎦
;
传感器 m的观测方程为: m mk k kZ HX v= + ,变换为直角坐标系则 cossin
m m m
m
k m m m
x r
Z
y r
θ
θ
⎡ ⎤ ⎡ ⎤= =⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦
,
m mr θ和 为传感器 m 对目标的观测距离和角度, m mr θσ σ和 为它们的误差均方根值,对应的
观测噪声误差方差阵
11 12
21 22
R R
R
R R
⎡ ⎤= ⎢ ⎥⎣ ⎦
,
11 2 2 2 2 2( ) cos ( ) ( ) sinm m m m mrR r θσ θ σ θ= +
22 2 2 2 2 2( ) sin ( ) ( ) cosm m m m mrR r θσ θ σ θ= +
12 21 2 2 2( ) ( ) ( ) sin cosm m m m mrR R r θσ σ θ θ⎡ ⎤= = −⎣ ⎦
1 0 0
0 1 0
0 0 1 0
0 0 0 1
T
T
⎡ ⎤⎢ ⎥⎢ ⎥Φ = ⎢ ⎥⎢ ⎥⎣ ⎦
, / 2 00 / 2
1 0
0 1
T
T
G
⎡ ⎤⎢ ⎥⎢ ⎥= ⎢ ⎥⎢ ⎥⎣ ⎦
, 1 0 0 0
0 1 0 0
H ⎡ ⎤= ⎢ ⎥⎣ ⎦
传感器 1, 1rσ =100m, 1θσ =;传感器 2, 2rσ =200m, 2θσ =,目标跟踪
持续时间为 100s。
以下 2 个场景各自经过 50 次 Monte Carlo 仿真实验,
场景 1: 10xyq =
场景 2: 100xyq =
图 6 CC 融合法与新融合法法 X 轴位置级均方根误差曲线
-9-
中国科技论文在线
图6(a)表明在过程噪声方差较小时,则新方法和CC法的效果接近,实际上当过程噪声非
常小时,互协方差可以看作是零,新方法就变成了CC法;图6(b)表明若过程噪声方差较大
时,CC法融合的效果就较差,而本文方法通过神经网络对过程噪声所引起的估计误差进行补
偿而达到较好的跟踪效果。
参考文献
[1] 韩崇昭,朱洪艳,段战胜等.多源信息融合[M]. 清华大学出版社,2006.
[2] 何友,王国宏,陆大金,彭应宁.多传感器信息融合及应用[M].电子工业出版社,2000.
[3] , .Handbook of Multisensor Data Fusion[M].CRC Press 2001.
[4] Singer R A , Kanyuck A J .Computer control of multiple site t rack correlation [J].Automatica ,1971.
[5] Bar Shalom Y, Campo L. The effect of common noise on the two-sensor fused track covariance [J].IEEE
Transactions on Aerospace and Electronic Systems , 1986 , AES 22(6):803 - 805.
[6] Bar Shalom Y. On the track-to-track correlation problem [J].IEEE Transactions on Automatic Control,1981
TAC226(2) :571 - 572.
[7] Chong, and . Distributed Multitarget-MultisensorTrackinging : Advanced
Applications[C].MA:Artech House,1990:247~294.
[8] Celine B , Tarunraj S. Adaptive t rack fusion in a multisensor environment [C]/ /International Fusion
2000Conference. Paris : The International Society of Information Fusion,2000 :24 - 31.
[9] Drummond O E. Feedback in Track Fusion without Process Noise[A] . SPIE Conf Signal Data Process
SmallTargets[C] . San Diego :SPIE , 1995. 3692383.
[10] S .Mori , , and .Track Association and Track Fusion with
Non—Deterministic Target Dynamics[J].In the 2rdIntemational Confi On Information Fusion,Sunnyvale,
CA,1999:2314238.
[11] X.R.Li,Y,-M.zhu and C.-Z.Han.Unified Optimal Linear Estimation Fusion[A]-PanI:Unified ModeIs
and Fusion Rules.In Proe.of 3rd International Conf.On Information . France.2000.
[12] 乔向东,信息融合系统中目标跟踪技术研究[D].西安电子科技大学,2003.
[13] 孟令启,孟梦.Elman 神经网络在中厚板轧机宽展预测中的应用[J].吉林大学学报(工学版) , 2008.
[14] 董长虹. Matlab 神经网络与应用[M].北京:国防工业出版社, 2005.
[15] 王秀芳,句莉莉.基于 Elman 神经网络的传感器补偿算法研究[J].科学技术与工程,2009.
[16] 徐丽娜. 神经网络控制[M] . 哈尔滨:哈尔滨工业大学出版社,1999.
Track-to-track fusion algorithm compensated by ELMAN
ANN
Shi Jianfang1, Li Jun1, Zhang Yan2
1 College of Information Engineering, Taiyuan University of Technology, Taiyuan (030024)
2 Shanxi Fenxi Heavy Industry Co. LTD, Taiyuan (030024)
Abstract
Aiming at the present state that several mainly used track-to-track fusion algorithms of distributed
multitarget multisensor trackinging systems are inevitably needed to calculate the cross- covariance of
error, it puts out a new algorithm which uses ELMAN ANN to compensate fusion error caused by
cross-covariance after fusing partial tracks by covariance convex (cc) algorithm. Experiment results
illustrates new algorithm can efficiently solve the fusion problems caused by common possess noise
which is under multisensor environment.
Keywords: Distributed fusion system; Track-to-track fusion; ELMAN ANN; Cross-covariance
作者简介:
史健芳,女,1966 年生,太原理工大学信息工程学院教授,博士研究生,主要研究方向为
神经网络、机动目标跟踪、智能信息处理及智能检测。
李军,男,1982 年生,太原理工大学信息工程学院硕士研究生,主要研究方向为神经网络、
分布式多传感器多目标跟踪系统。