第28卷第12期控制与决策2013年12月文章编号:1001-0920(2013)12-1915-06区间时间序列的混合预测模型岳继光1,杨臻明1,孙强1,王晓保2(1.同济大学电子与信息工程学院，上海201804；2.上海申通轨道交通研究咨询有限公司，上海201103)摘要:提出一种基于自回归求和移动平均(ARIMA)与人工神经网络(ANN)的区间时间序列混合模型,并用混合模型分别对区间中值序列和区间半径序列建模.采用MonteCarlo方法生成模拟区间序列,分别用ARIMA、ANN和混合模型3种方法进行建模和预测实验,并用统计学方法检验模型误差.最后分别采用3种方法对H市轨道交通某号线牵引能耗区间序列进行了建模和预测,实验结果表明混合模型的建模精度和预测性能均优于单一模型.关键词:区间分析；时间序列；混合模型；ARIMA模型；人工神经网络；城市轨道交通；MonteCarlo方法中图分类号:TP273文献标志码:AHybridmodelforinterval-valuedtimeseriesYUEJi-guang1,YANGZhen-ming1,SUNQiang1,WANGXiao-bao2(，TongjiUniversity，Shanghai201804，China；，Shanghai201103，China．Correspondent：YANGZhen-ming,E-mail：yangzhenmingtk@)Abstract：Ahybridmodelbasedontheautoregressiveintegratedmovingaverage(ARIMA)modelandtheartificialneuralnetwork(ANN)-valuedtimeseriesareconvertedtothemid-pointandthehalf-rangeseries,theforecastingofwhichisaccomplishedthroughahybridmodel,,：intervalanalysis；timeseries；hybridmodel；ARIMAmodel；artificialneuralnetworks；urbanrailtransit;MonteCarlomethod0引言间序列模型,介绍了普通时间序列的混合模型;然后,在时间序列研究领域,人们对区间数据的分析和将区间序列表示为区间中值序列和区间半径序列,将预测越来越重视.一组按顺序排列的区间数便构成了普通时间序列方法推广至区间序列的建模和预测,并区间时间序列[1].传统的时间序列分析和预测方法大在普通时间序列混合模型的基础上提出了区间序列多基于统计学理论,如自回归求和移动平均(ARIMA)的混合模型;最后,用MonteCarlo模拟方法生成合成类模型[2]和自回归条件异方差(ARCH)类模型等[3].区间序列,分别用ARIMA、ANN和混合模型3种方目前,人工神经网络(ANN)已经成为通用的非线性时法进行建模和预测实验,用平均区间误差平方和来评间序列建模预测方法[4-5],但尚未见到直接的区间时价建模和预测误差,同时对H市轨道交通某号线牵引间序列建模和预测方法.一般大都先将区间序列转换能耗区间序列进行了建模和预测,并比较了3种方法为普通序列,然后再用传统时间序列方法对其进行分之间的差异.析和建模[6],例如Roque等[4]将区间序列转换为区间1时间序列混合预测模型上下限序列后用神经网络建模.ARIMA模型是常用的时间序列模型.如果时间本文提出一种基于混合模型的区间时间序列建序列yt平稳,则可直接建立自回归移动平均(ARMA)模和预测方法.首先,简要回顾了ARIMA、ANN等时模型,其表达式为[2]收稿日期:2013-01-05；修回日期:2013-10-06.作者简介:岳继光(1961 ),男,教授,博士生导师,从事过程控制、计算机控制等研究；杨臻明(1982 ),男,博士生,从事非线性系统、神经元网络的研究.
1916控制与决策第28卷XpXqyt= 0+ iyt i+"t+包含了时间序列的非线性特征;然后,利用ANN模型 j"t j:(1)i=1j=1描述残差其中:"t是t时刻的随机误差项, i和 j是模型待估et=f(et 1;et 2; ;et p)+"t:(5)参数(i=1;2; ;p;j=1;2; ;q); 0是常数项,p和q是ARMA模型的阶数.随机误差项"t相互独立,且在上述表达式中,p是ANN输入层的节点个数,服从均值为f是ANN的非线性传递函数,"t是随机误差项.通过0、方差为 2的正态分布.ARIMA(p;d;q)模型可以对经过d阶逐期差分后平稳的时间序列ANN模型得到的残差序列e^t代表了时间序列非线性部分的估计值N^t,据此,混合模型对时间序列的预测yt建模.值可表示为ANN可以对非线性时间序列进行建模和预测.在常用的多层感知器(MLP)网络基础上,将网络输出y^t=L^t+N^t:(6)经延迟后反馈到输入端,得到非线性自回归(NARX)混合模型利用ARIMA和ANN分别对时间序列网络[7-9],其结构如图的线性和非线性部分建模,充分发挥了两者的优势,1所示.其建模精度和预测性能优于单一模型.y(t-1)2区间时间序列预测模型y(t-2)!"#$y(t)区间时间序列是普通时间序列的扩展,其每个时y(t-p)!%#$刻的观测值是二元区间数.因此,普通时间序列分析x1方法不能直接应用于区间序列,需要进行相应的改xk进.一种思路是将区间序列转化为普通时间序列,然!"&'(&!%&后再用普通时序分析方法对其建模与预测.图1非线性自回归(NARX)网络结构区间中值与区间半径NARX网络的表达式可以写为表示区间数有多种方法,除了区间上限和区间下yt=限外,还可用区间中值和区间半径表示区间数[13].将Xq XppX+m 区间数根据时间顺序排列起来,得到区间时间序列. 0+ j g 0j+ ijyt i+ ijxm+"t:设n是区间序列的长度,在各个时间点t=1;2; ;nj=1i=1i=p+1上,令XUt为区间上限,XLt为区间下限,并且有XLt(2)其中6XUt,整个区间时间序列为[XL1;XU1];[XL2;XU2];: 和 是模型参数(网络权值),p是输出反馈延时步数,m是外部输入个数,q是隐含层节点个数 ;[XLn;XUn].该区间序列可分解为两个时间序列:,g是隐含层传递函数,NARX网络总的输入节点个数为区间中值序列Xc和区间半径序列Xr.区间中值序列p+m与区间半径序列可以分别用区间上下限表示为.当确定某些外部变量对时间序列有显著影响时,可以将其作为NARX网络的输入变量=XUt+XLt;Xr2t=XUt XLt;t=1;2; ;n;2ARIMA模型和ANN模型分别在线性和非线性(7)领域取得了很大成功.然而,将ARIMA模型用于解决反之,也可将区间序列表示成区间中值与区间半径的复杂非线性系统建模问题并不合适;同样,使用ANN形式,即对线性系统建模会得到相互矛盾的结果[10].若能将[XLt;XUt]=[Xct Xrt;Xct+Xrt]:(8)两者结合起来,则能更好地描述时间序列的复杂结只要用ARIMA、ANN或其他方法对区间中值序构.在实际应用中,可以使用混合模型同时对时间序列和区间半径序列建立合适的模型,即可对区间序列列的线性和非线性过程建模[10-12].进行建模和预测.可以认为时间序列由线性自相关结构与非线性用区间中值与区间半径表示二元区间有利于提结构两部分组成[10],即高区间序列的建模精度.设某种时间序列预测方法对yt=Lt+Nt;(3)于区间上下限序列、区间中值和半径序列的相对预测其中Lt和Nt分别为时间序列的线性和非线性部分.误差为nARIMA与ANN的混合模型建模过程分为两步.首 X^ 2cet Xctc=1X;先n,利用ARIMA模型对线性部分Lt建模,其剩余残t=1Xct差部分n1X X^ 2ret Xrtr=enX;ct=yt L^t;(4)t=1t…………
第12期岳继光等:区间时间序列的混合预测模型1917Xn X^eL=1 L2t XLt终预测值可以表示为线性与非线性两部分预测结果X;nLt=1t的和,则区间中值序列与区间半径序列的预测值分别n X^U为etU=1X X U2tX:(9)nUt=1tX^ct=L^ct+N^ct;假定该方法对各序列有相同的预测精度,则有X^rt=L^rt+N^rt:(16)ec=er=eL=eU=e:(10)根据式(8),得到原区间序列的区间上下限分别为用上下限表示的平均区间误差平方和(MSE)为X^cLt=X^t X^rt=(L^ct L^rt)+(N^ct N^rt);MSE1=X^Ut=X^ct+X^rt=(L^ct+L^rt)+(N^ct+N^rt):(17)n1Xn(X^X21XnLt Lt)+(X^nUt X2Ut)=由此即建立了区间序列的混合模型.建模过程中没有i=1i=1对原区间序列作出任何假设,该混合模型可以对任何X2nLX(X^tLt XLXnt)2(X^XtUt Ut)2nX2+X2U区间序列建模.i=1LnX2=ti=1Ut3区间序列预测实验X2LetL+X2UetU=合成区间序列(X2L+2tU)e;(11)t为了评价ARIMA、ANN和混合模型的建模精度用区间中值与区间半径表示的MSE为和预测性能,模拟了2个长度为200的区间序列,序列MSE的生成步骤如下:X2=nn11)假设区间中值序列Xc由已知随机过程产生,2(X^nct Xct)+1X(X^nrt X2rt)=如AR(1)过程;i=1i=1(X22)假设区间半径序列Xr服从已知均匀分布,如c+X2tr)e:(12)t将式Xr U[10;20];(7)代入(12),得到MSE2=13)通过式(8)构建对应的区间序列Xt=[XLt;(X22L+X2tU)e:(13)tXU这说明在预测方法相同的情况下,用区间中值与区间t].每个合成区间序列200个观测值中的前160个半径表示的区间序列预测误差仅为用区间上下限表为训练集,后40个为测试集.生成2个区间序列的随示的一半.机过程见表的区间中值Xc是由随机游走过程区间序列的混合模型生成的,这是典型的AR(1)过程,序列当前值与前期区间序列混合模型的基本思想是,用普通混合模值之间是线性关系,随机误差项"t服从标准正态分型分别对区间中值序列Xc和区间半径序列Xr建模,布,即"t N(0;1).S2的区间中值Xc是由非线性过得到Xc和Xr的预测值X^c和X^r,然后根据式(8)计程生成的,序列表现出复杂的混沌特征.序列S1和S2算出区间序列的预测值[X^Lt;X^Ut].分别用来考察3种方法对线性和非线性区间序列的设混合模型中的线性部分,即ARIMA模型对区建模能力.间中值序列Xc的估计值为L^c,则根据线性模型的残差公式(4),可得到区间中值的残差序列表1模拟合成的区间序列区间序列Xc过程Xr过程eXc=Xctt L^ct;(14)S1Xct=Xct 1+"tU[5;10]其中Xct是区间中值序列的观测值.同理,设ARIMAS2Xct=4Xc t 11 Xc t 1+"tU[2;5]模型对区间半径序列Xr的估计值为L^rt,则区间半径实验结果评估的残差序列为设区间序列的观测值Xt=[XLt;XUt]对应的预eXr=Xrtt L^rt:(15)测值为X^t=[X^Lt;X^Ut](t=1;2; ;n),区间序列模由此,在建立线性模型后,得到2个含有原区间序列型的性能用平均区间上限误差平方和(MSEU)和平非线性信息的残差序列eXc和etXr.均区间下限误差平方和X(MSEL)评价,即t下面用混合模型的非线性部分,即ANN模型分n别对残差序列MSEU=12(X^eXc和e模,得到残差序列的估计tXr建nUt XUt);(18)t值e^Xc和e^分别代表了混合模型中的非tXr,该估计值Xi=1nt线性部分N^ct和N^rt.根据混合模型(6),时间序列的最MSE2L=1(X^nLt XLt):(19)i=1
1918控制与决策第28卷用MonteCarlo方法分别生成1000个序列S1和表5ARIMA、ANN和混合模型对合成区S2的样本.分别用ARIMA、ANN和混合模型对每个间序列12步超前预测的MSE比较样本的训练集建模,计算模型误差;然后用该模型进区间序列MSEUMSEL行S1ARIMA>ANN>混合模型ARIMA>ANN>混合模型12步超前预测,并用测试集计算相应的预测误差.S2ARIMA>ANN>混合模型ARIMA>ANN>混合模型MonteCarlo方法的收敛性和误差是2个重要的指标[14],因此在模拟1000个序列样本完成后将计算从表2和表4可看出,无论对于线性区间序列S1MSE还是非线性区间序列S2,混合模型对训练集的建模U和MSEL的最终均值和标准差.由序列的自相关和偏自相关特征,依据AIC准则确定序列S1和S精度都全面超过ARIMA模型和ANN模型,而ANN2的模型,分别如下模型又优于ARIMA模型.值得注意的是,即便对线性:序列S1的模型ARIMA(1;1;0),ANN输入层节点数=2,隐含层节点数=3序列建模,混合模型的表现也要优于线性ARIMA模;序列S2的模型ARIMA型.(2;1;1),ANN输入层节点数=3,隐含层节点数=5.所用混合模型的结构如图2所示从表3和表5可看出,在12步超前预测的情况.%&'(下,混合模型无论是对线性区间序列S1还是非线性!"#$区间序列S2,其预测结果都是3种方法中最好的.对AR-IMAANN+于非线性区间序列的建模和预测,ANN和混合模型+-都明显优于ARIMA模型,这样的结果与预期相符.综(a)!"合ANN与混合模型在建模和预测两方面的表现,混ARIMA+)*'+合模型优于ANN模型,更优于ARIMA模型.)*'(ANN+4城市轨道交通能耗区间序列建模与预测(b))*城市轨道交通系统的牵引能耗数据来源于运营图2混合模型结构示意图企业的统计报表.统计牵引能耗除了实际运送乘客所消耗的电能外,还包括了车辆空驶、检测维修等非实表2和表3显示了MonteCarlo方法得到的序列际营运因素所消耗的电能.因为种种原因,这些额外S1和S2的建模和预测结果,括号内的数值是误差的能耗无法精确统计,所以统计牵引能耗数据存在着不标准差.用t检验法检验3种方法建模的MSE的差异确定性[15].是否显著,取显著性水平为,结果见表4和表5.为了描述牵引能耗的不确定性,引入牵引能耗区表2ARIMA、ANN和混合模型对合成区间数,并进一步扩展为牵引能耗区间序列.根据H市间序列建模的MSE均值与标准差轨道交通某号线2007年 2010年的牵引能耗数据,区间序列模型MSEUMSEL用ARIMA、ANN和混合模型3种方法分别建立牵引ARIMA1:8500(1:1232)1:8893(1:1252)能耗区间模型,并预测2011年的牵引能耗区间.S1ANN1:5006(1:1565)1:4998(1:1555)混合模型1:1104(1:1559)1:1330(1:1554)牵引能耗数据与模型参数ARIMA0:8468(0:0113)0:9166(0:0120)S2ANN表6是H市轨道交通某号线2007年1月 20100:3489(0:0122)0:3762(0:0154)混合模型0:1467(0:0129)0:1486(0:0127)年12月的牵引能耗区间上下限和月平均气温数据.根据式(7)将牵引能耗区间序列转化为区间中值表3ARIMA、ANN和混合模型对合成区间序列12步超前预测的序列和区间半径序列.由于序列非平稳且具有季节MSE均值与标准差区间序列模型MSEUMSE性,做1阶逐期差分与季节长度S=12的1阶季节差LARIMA3:2426(0:6564)3:0447(0:5587)分.由序列的自相关和偏自相关特征,依据AIC准则S1ANN2:1543(0:4056)2:2409(0:4976)确定模型ARIMA(3;1;1)(1;1;1)12.用Eviews实现上混合模型1:4337(0:4508)1:4700(0:4554)述的ARIMA模型.ARIMA3:6164(0:3097)3:6672(0:2983)S2ANN1:8855(0:1344)1:7504(0:1479)根据城市轨道交通系统牵引能耗的特性,选取混合模型1:2578(0:1373)1:2748(0:1249)表7中的变量作为ANN的输入输出变量[15].表采用NARX网络对轨道交通能耗建模[7].网络输4ARIMA、ANN和混合模型对合成区间序列建模的MSE比较入变量包括牵引能耗Eq(输出反馈信号)和月平均气区间序列MSEUMSEL温T(外部输入信号);输出变量为牵引能耗Eq,其中S1ARIMA>ANN>混合模型ARIMA>ANN>混合模型Eq的滞后步长为12;网络输入层的节点个数=输入S2ARIMA>ANN>混合模型ARIMA>ANN>混合模型变量的个数=13,输出层的节点数=1.用Matalb实
第12期岳继光等:区间时间序列的混合预测模型1919现上述NARX网络,整个网络结构参见图1.数据建立模型,对2011年各月的牵引能耗区间进行表6H市轨道交通某号线牵引预测.ARIMA、ANN和混合模型的模型误差和预测能耗上下限和月平均气温误差如表8所示.年牵引能耗下限牵引能耗上限月平均气温/月表8H市轨道交通某号线牵引能耗104kW h104kW h C区间序列的模型误差和预测误差2007/1592:90624:105:92007/2555:09584:309:8模型MSEUMSEL2007/3572:47602:6012:1ARIMA4:6584:8732007/4663:96698:9015:9模型误差ANN2:8952:8122007/5754:30794:0022:9混合模型2:1872:1562007/6771:02811:6025ARIMA5:2835:3442007/7946:11995:9030:4预测误差ANN4:1984:2652007/8964:351015:1029:7混合模型3:2313:3282007/9857:00902:1025:42007/10835:91879:9020从表8可以看出,无论是建模还是预测,混合模:62007/11771:31811:9014:2型的误差都明显小于ARIMA模型和ANN模型,这与2007/12838:00882:109:8合成区间序列的实验结果吻合,展示了混合模型对于2008/1866:78912:404:52008/2841:32885:604:2实际区间时间序列建模与预测的性能.2008/3895:76942:9011:65结论2008/4902:12949:6016:12008/5985:151037:0021:8本文提出了一种区间时间序列建模和预测的新2008/6995:791048:2024:2方法.将区间序列表示为区间中值序列和区间半径序2008/71210:871274:6030:42008/81195:481258列,用普通时间序列方法分别对这两个序列进行建模:4028:62008/91099:911157:8026和预测.在普通时间序列混合模型的基础上,提出了2008/101036:451091:0021区间时间序列的混合模型,分别用ARIMA和ANN模2008/11945:16994:9013:32008/12976:321027:707:9型对区间序列的线性和非线性部分建模.区间序列的2009/1941:20990:744:3预测值由区间中值与区间半径预测值的线性组合表2009/2855:37900:399:3示.2009/3934:67983:8610:82009/4939:05988:4716:7本文分别用ARIMA、ANN和混合模型3种方法2009/51018:391071:9922:5对2个合成区间序列进行了建模和预测实验,用平均2009/61083:631140:6626:32009/71232:191297区间误差平方和评价模型误差;采用MonteCarlo方:04292009/81212:311276:1228:1法生成合成区间序列,并用统计学方法对实验结果进2009/91105:731163:9325:4行了检验.MonteCarlo模拟结果表明,3种方法都具2009/101057:051112:6821:42009/11976:801028:2112:4有较好的预测性能,其中混合模型的综合性能是3种2009/12971:001022:106:9模型中最好的,即便对于线性区间序列,混合模型的2010/11020:991074:735:7表现也优于ARIMA模型.对H市轨道交通某号线牵2010/2915:35963:537:72010/31058:951114:689:6引能耗区间序列进行了建模和预测,结果表明,当区2010/41020:371074:0713:3间序列具有复杂特性时,混合模型的建模精度和预测2010/51108:961167:3320:9性能均显著好于ARIMA模型和ANN模型,混合模型2010/61219:261283:4424:12010/71407:891481:9928:8展现出了良好的适应能力.混合模型为区间时间序列2010/81556:001637:8930:9的建模提供了一种新的方法,在复杂区间序列预测方2010/91327:361397:2226:22010/101141:431201:5019面具有良好的应用前景.:32010/111005:841058:7814:22010/12994:501046:855:7参考文献(References)表[1]牵引能耗神经网络输入输出变量表indigitalcomputing[M].Starford:StanfordUniversity牵引能耗月平均气温牵引能耗符号EPress,1962:单位104kW h C104kW h[2]BoxGEP,JenkinsGM,:Forecastingandcontrol[M].:预测结果与分析&Sons,2008:21-224.用2007年1月 2010年12月的牵引能耗区间
1920控制与决策第28卷[3][J].ControlandDecision,2011,26(10):withestimatesofthevarianceofUnitedKingdom1581-1585.)Inflation[J].Econometrica,1982,50(4):987-1007.[10][4]RoqueAM,MateC,ArroyoJ,:Applyingandneuralnetworkmodel[J].Neurocomputing,2003,multi-layerperceptronstointerval-valueddata[J].Neural50(1/2/3):,2007,25(2):157-169.[11]AraujoR,[5]曹玉苹,田学民.基于SVM和Kalman预测的非线性系morphological-rank-linearmethodforfinancialtimeseries统故障预报[J].控制与决策,2009,24(3):[J].Neurocomputing,2009,72(10/11/12):2507-(CaoYP,[J].Controland[12],2009,24(3):477-480.)forwaterqualitytimeseriesprediction[J].Engineering[6]ArroyoJ,Maté:ApplicationsofArtificialIntelligence,2010,23(4):586-Accuracymeasures[C].:Springer,2006:1139-1146.[13]徐惠莉,吴柏林,江韶珊.区间时间序列预测准确度探[7]ZemouriR,GouriveauR,讨[J].数量经济技术经济研究,2008,12(1):(XuHL,WuBL,[J].Neurocomputing,2010,evaluationforintervaltimeseries[J].TheJofQuantitative73(13/14/15):2506-2521.&TechnicalEconomics,2008,12(1):133-140.)[8]MaQL,ZhengQL,PengH,-step-prediction[14]KaastraI,-evolutionaryrecurrentforforecastingfinancialandeconomictime-series[J].neuralnetwork[J].ChinesePhysicsB,2008,17(2):536-Neurocomputing,1996,10(3):.[15]杨臻明,岳继光,王晓保,等.基于回归模型的城市轨[9]李松,刘力军,解永乐.遗传算法优化BP神经网络的短道交通能耗预测[J].城市轨道交通研究,2010,13(12):时交通流混沌预测[J].控制与决策,2011,26(10):.(YangZM,YueJG,WangXB,(LiS,LiuLJ,-urbanrailtransitpowerconsumptionbasedonregressiontermtrafficflowofoptimizedBPneuralnetworkbasedonmodel[J].UrbanMassTransit,2010,13(12):22-25.)
