（时间管理）时间序列模型.doc

下载

下载

80积分

100积分

下载

100积分

VIP价：80积分

（时间管理）时间序列模型 Wold 分解定理：任何协方差平稳过程 xt，均能够被表示为 xt--dt=ut+1ut-1+2ut-2+…+= 其中表示 xt的期望。dt表示 xt的线性确定性成分，如周期性成分、时间 t的多项式和指数 形式等，能够直接用 xt的滞后值预测。0=1，<∞。ut为白噪声过程。ut表示用 xt的滞后项 预测 xt时的误差。 ut=xt-E(xtxt-1,xt-2,…) 称为 xt的线性非确定性成分。当 dt=0时，称 xt为纯线性非确定性过程。 Wold分解定理由 Wold于 1938年提出。Wold分解定理只要求过程 2阶平稳即可。从原理上 讲，要得到过程的 Wold分解，就必须知道无限个j参数，这对于壹个有限样本来说是不可 能的。实际中能够对j做另壹种假定，即能够把(L)见作是 2个有限特征多项式的比， (L)=== 注意，无论原序列中含有何种确定性成分，于前面介绍的模型种类中，仍是后面介绍的自关 联函数、偏自关联函数中均假设于原序列中已经剔除了所有确定性成分，是壹个纯的随机过 程（过程中不含有任何确定性成分）。如果壹个序列如上式， xt=+dt+ut+1ut-1+2ut-2+…+ 则所有研究均是于 yt=xt--dt的基础上进行。例如前面给出的各类模型中均不含有均值项、 时间趋势项就是这个道理。 自关联函数 之上介绍了随机过程的几种模型。实际中单凭对时间序列的观察很难确定其属于哪壹种 模型，而自关联函数和偏自关联函数是分析随机过程和识别模型的有力工具。 1.自关联函数定义 于给出自关联函数定义之前先介绍自协方差函数概念。由第壹节知随机过程{xt}中的每壹个 元素 xt，t=1,2,…均是随机变量。对于平稳的随机过程，其期望为常数，用表示，即 E(xt)=,t=1,2,…() 随机过程的取值将以为中心上下变动。平稳随机过程的方差也是壹个常量 Var(xt)=E[(xt-E(xt))2]=E[(xt-)2]=x2,t=1,2,…() x2用来度量随机过程取值对其均值的离散程度。 相隔 k期的俩个随机变量 xt和 xt-k的协方差即滞后 k期的自协方差，定义为 k=Cov(xt,xt-k)=E[(xt-)(xt-k-)]() 自协方差序列 k,k=0,1,…,K, 称为随机过程{xt}的自协方差函数。当 k=0时 0=Var(xt)=x2 自关联系数定义 k=（） 因为对于壹个平稳过程有 Var(xt)=Var(xt-k)=x2() 所以（）能够改写为 k===（） 当 k=0时，有0=1。 以滞后期 k为变量的自关联系数列 k,k=0,1,…,K() 称为自关联函数。因为k=-k即 Cov(xt-k,xt)=Cov(xt,xt+k)，自关联函数是零对称的，所以实 际研究中只给出自关联函数的正半部分即可。 2.自回归过程的自关联函数 (1)平稳 AR(1)过程的自关联函数 AR(1)过程如下 xt=xt-1+ut,1 用 xt-k同乘上式俩侧 xtxt-k=xt-1xt-k+utxt-k 俩侧同取期望， k=1k-1 其中 E(xt-kut)=0（ut和其 t-k期及以前各项均不关联）。俩侧同除0得, k=1k-1=11k-2=…=1k0 因为o=1。所以有 k=1k,（k0） 对于平稳序列有。所以当1为正时，自关联函数按指数衰减至零（过阻尼情形），当1 为负时，自关联函数正负交错地指数衰减至零。见图 。因为对于经济时间序列，1壹般 为正，所以第壹种情形常见。指数衰减至零的表现形式说明随着时间间隔的加长，变量之间 的关系变得越来越弱。 0（经济问题中常见）0（经济问题中少见） 图 (1)过程的自关联函数 （2）AR(p)过程的自关联函数 用 xt-k,(k同乘平稳的 p阶自回归过程 x t =  1 x t - 1 +  2 x t - 2 + … +  p x t - p + u t ( 2 . 3 2 ) 的俩侧，得 x t - k x t =  1 x t - k x t - 1 +  2 x t - k x t - 2 + … +  p x t - k x t - p + x t - k u t ( 2 . 3 3 ) 对上式俩侧分别求期望得  k =  1  k - 1 +  2  k - 2 + … +  p  k - p ， k  0 ( 2 . 3 4 ) 上式中对于 k0，有 E(xt-kut)=0。因为当 k0时，xt-k发生于 ut之前，所以 xt-k和 ut不关联。 用0分别除（）式的俩侧得  k =  1  k - 1 +  2  k - 2 + … +  p  k - p ， k  0 ( 2 . 3 5 ) 令(L)=(1-1L-2L2-…-pLp）其中 L为 k的滞后算子，则上式可表达为 (L)k=0 因(L)可因式分解为， (L)=, 则（）式的通解（证明见附录）是  k = A 1 G 1 k + A 2 G 2 k + … + A p G p k . ( 2 . 3 6 ) 其中 Ai,i=1,…p为待定常数。这里 Gi-1,i=1,2,…,p是特征方程 (L)=(1-1L-2L2-…-pLp)=0 的根。为保证随机过程的平稳性，要求|Gi|1,i=1,2,…,p。这会遇到如下俩种情形。 ①当 Gi为实数时，()式中的 AiGik将随着 k的增加而几何衰减至零，称为指数衰减（过 阻尼情形）。 ②当 Gi和 Gj表示壹对共轭复根时，设 Gi=a+bi,Gj=a–bi,=R，则 Gi,Gj的极座标形式是 Gi=R(Cos+iSin)，Gj=R(Cos-iSin)。若 AR(p)过程平稳，则Gi<1，所以必有 R<1。那么 随着 k的增加，Gik=Rk(Cosk+iSink)，Gjk=Rk(Cosk-iSink)，自关联函数（）式中的 相应项 Gik,Gjk将按正弦振荡形式衰减（欠阻尼情形）。实际中的平稳自回归过程的自关联函 数常是由指数衰减和正弦衰减俩部分混合而成。 ③从（）式能够见出，当特征方程的根取值远离单位圆时，k不必很大，自关联函 数就会衰减至零。 ④有壹个实数根接近 1时，自关联函数将衰减的很慢，近似于线性衰减。当有俩个之上 的根取值接近 1时，自关联函数同样会衰减的很慢。 a.俩个特征根为实根 b.俩个特征根为共轭复根 图 (2)过程的自关联函数 3.移动平均过程的自关联函数 (1)MA(1)过程的自关联函数。 对于 MA(1)过程 xt=ut+1ut-1 有 k=E(xtxt-k)=E[(ut+1ut-1)(ut-k+1ut-k-1)] 当 k=0时， 0=E(xtxt)=E[(ut+1ut-1)(ut+1ut-1)] =E(ut2+1utut-1+1utut-1+12ut-12)=(1+12)2 当 k=1时 1=E(xtxt-1)=E[(ut+1ut-1)(ut–1+1ut–2)] =E(utut-1+1ut-12+1utut-2+12ut-1ut-2)=1E(ut-1)2=12 当 k1时， k=E[(ut+1ut-1)(ut–k+1ut–k-1)]=0 综合之上三种情形，MA(1)过程自关联函数为 k==,k=1 0,k1， 见图 。 1010 图 (1)过程的自关联函数 可见 MA(1)过程的自关联函数具有截尾特征。当 k1时，k=0。 (2)MA(q)过程的自关联函数 MA(q)过程的自关联函数是 k=,k=1,2,…,q, 0kq, 当 kq时，k=0，说明k,k=0,1,…具有截尾特征。 （注意：模型移动平均项的符号以及这里k的符号正好和 Box-Jenkins书中的符号相反，这 样表示的好处是保持和计算机输出结果壹致。） (1,1)过程的自关联函数 ARMA(1,1)过程的自关联函数k从1开始指数衰减。1的大小取决于1和1,1的符号取 决于(1-1)。若1>0，指数衰减是平滑的，或正或负。若1<0，关联函数为正负交替式指数 衰减。 对于 ARMA(p,q)过程，p,q2时，自关联函数是指数衰减或正弦衰减的。 5.关联图（correlogram） 对于壹个有限时间序列（x1,x2,…,xT）用样本平均数 = 估计总体均值，用样本方差 s2= 估计总体方差x2。 当用样本矩估计随机过程的自关联函数，则称其为关联图或估计的自关联函数，记为 rk=,k=0,1,2,…,K,(K<T).() rk是对k的估计。其中 Ck=k=0,1,2,…,K,() 是对k的估计 C0=() 是对0的估计，T是时间序列数据的样本容量。实际中 T不应太小，最好能大于 60。 注意：()式分母为 T，不是 T-k。Ck为有偏估计量。但于小样本条件下更有效。 注：2个标准差=2T-1/2=2（1/7）=。图中虚线表示到中心线 2个标准差宽度。 关联图是对自关联函数的估计。由于 MA过程和 ARMA过程中的 MA分量的自关联函数具 有截尾特性，所以通过关联图能够估计 MA过程的阶数 q。关联图是识别 MA过程阶数和 ARMA 过程中 MA分量阶数的壹个重要方法。实际应用中关联图壹般取 k=15就足够了。 rk的方差近似为 T-1。所以于观察关联图时，若 rk的绝对值超过 2T-1/2（2个标准差）， 就被认为是显著地不为零。当 T充分大时，近似有 (rk-0)/T-1/2=rkT1/2~N(0,1) 偏自关联函数 偏自关联函数是描述随机过程结构特征的另壹种方法。用kj表示 k阶自回归式中第 j个回归 系数，则 k阶自回归模型表示为 xt=k1xt-1+k2xt-2+…+kkxt-k+ut 其中kk是最后壹个回归系数。若把 k=1,2…的壹系列回归式kk见作是滞后期 k的函数，则称 kk,k=1,2…() 为偏自关联函数。它由下式中的红项组成。 xt=11xt-1+ut xt=21xt-1+22xt-2+ut 。。。 xt=k1xt-1+k2xt-2+…+kkxt-k+ut 因偏自关联函数中每壹个回归系数 kk恰好表示 xt和 xt-k于排除了其中间变量 xt-1,xt-2,…,xt-k+1影响之后的关联系数， xt-k1xt-1-k2xt-2-…-kk-1xt-k+1=kkxt-k+ut 所以偏自关联函数由此得名。 对于 AR(1)过程，xt=11xt-1+ut，当 k=1时，110，当 k>1时，kk=0，所以 AR(1)过程的 偏自关联函数特征是于 k=1出现峰值（11=1）然后截尾。 11>011<0 AR(1)过程的偏关联图 对于 AR(2)过程，当 k2时，kk0，当 k>2时，kk=0。偏自关联函数于滞后期 2以后有 截尾特性。 对于 AR(p)过程，当 kp时，kk0，当 k>p时，kk=0。偏自关联函数于滞后期 p以后有 截尾特性，因此可用此特征识别 AR(p)过程的阶数。 MA(1)过程的偏自关联函数呈指数衰减特征。若1>0,偏自关联函数呈交替改变符号式指 数衰减；若10，偏自关联函数呈负数的指数衰减。 因为任何壹个可逆的 MA(q)过程均能够转换成壹个无限阶的系数按几何递减的 AR过程， 所以 MA(q)过程的偏自关联函数呈缓慢衰减特征。 1>01<0 MA(1)过程的偏自关联函数 例 5：对于 xt=ut+1ut-1过程，有[1/(1+1L)]xt=ut,当1>0， (1-1L+12L2-…)xt=ut, xt=1xt-1-12xt-2+13xt-3-…+ut, 对于 xt=ut-1ut-1过程，有[1/(1-1L)]xt=ut，当1>0, (1+1L+12L2+…)xt=ut, xt=-1xt-1-12xt-2-13xt-3-…+ut, 对于 MA(2)过程，若(L)=0的根是实数，偏自关联函数由俩个指数衰减形式叠加而成。 若(L)=0的根是虚数，偏自关联函数呈正弦衰减形式。 ARMA(p,q)过程的偏自关联函数也是无限延长的，其表现形式和 MA(q)过程的偏自关联函 数相类似。根据模型中移动平均部分的阶数 q以及参数i的不同，偏自关联函数呈指数衰减 和（或）正弦衰减混合形式。 对于时间序列数据，偏自关联函数通常是未知的。可用样本计算11,22,…的估计 量,,…。估计的偏自关联函数 ,k=1,2,…,K,() 称为偏关联图。因为 AR过程和 ARMA过程中 AR分量的偏自关联函数具有截尾特性，所以可 利用偏关联图估计自回归过程的阶数 p。实际中对于偏关联图取 k=15就足能够了。 的方差近似为 T-1。当 T充分大时，近似有 (-0)/T-1/2=T1/2~N(0,1) 所以于观察偏关联图时，若的绝对值超过 2T-1/2（2个标准差），就被认为是显著地不为零。 时间序列模型的建立和预测 ARIMA过程 yt用 (L)Δdyt=0+(L)ut() 表示，其中(L)和(L)分别是 p,q阶的以 L为变数的多项式，它们的根均于单位圆之外。0 为位移项，Δdyt表示对 yt进行 d次差分之后能够表达为壹个平稳的可逆的 ARMA过程。这是 随机过程的壹般表达式。它既包括了 AR，MA和 ARMA过程，也包括了单整的 AR，MA和 ARMA 过程。 建立时间序列模型通常包括三个步骤。（1）模型的识别，（2）模型参数的估计，（3）诊 2 4 6 8 10 12 14 断和检验。 模型的识别就是通过对关联图的分析，初步确定适合于给定样本的 ARIMA模型形式，即 确定 d,p,q的取值。 模型参数的估计就是待初步确定模型形式后对模型参数进行估计。 诊断和检验就是以样本为基础检验拟合的模型，以求发现某些不妥之处。如果模型的某 些参数估计值不能通过显著性检验，或者残差序列不能近似为壹个白噪声过程，应返回第壹 步再次对模型进行识别。如果上述俩个问题均不存于，就可接受所建立的模型。建摸过程用 图 表示。下面对建摸过程做详细论述。 1.模型的识别 模型的识别主要依赖于对关联图和偏关联图的分析。于对经济时间序列进行分析之前， 首先应对样本数据取对数，目的是消除数据中可能存于的异方差，然后分析其关联图。 识别的第 1步是判断随机过程是否平稳。由 节知，如果壹个随机过程是平稳的，其 特征方程的根均应于单位圆之外。由 节知，如果(L)=0的根接近单位圆，自关联函数将 衰减的很慢。所以于分析关联图时，如果发现其衰减很慢，即可认为该时间序列是非平稳的。 这时应对该时间序列进行差分，同时分析差分序列的关联图以判断差分序列的平稳性，直至 得到壹个平稳的序列。对于经济时间序列，差分次数，即模型（）中的参数 d通常只取 0，1或 2。 图 建立时间序列模型程序图 实际中也要防止过度差分。壹般来说平稳序列差分得到的仍然是平稳序列，但当差分次 数过多时存于俩个缺点，（1）序列的样本容量减小；（2）方差变大；所以建模过程中要防 止差分过度。对于壹个序列，差分后若数据的极差变大，说明差分过度。 第 2步是于平稳时间序列基础上识别 ARMA模型阶数 p,q。表 给出了不同 ARMA模型 的自关联函数和偏自关联函数。当然壹个过程的自关联函数和偏自关联函数通常是未知的。 用样本得到的只是估计的自关联函数和偏自关联函数，即关联图和偏关联图。建立 ARMA模 型，时间序列的关联图和偏关联图可为识别模型参数 p,q提供信息。关联图和偏关联图（估 计的自关联系数和偏自关联系数）通常比真实的自关联系数和偏自关联系数的方差要大，且 表现为更高的自关联。实际中关联图，偏关联图的特征不会像自关联函数和偏自关联函数那 样“规范”，所以应该善于从关联图，偏关联图中识别出模型的真实参数 p,q。另外，估计的 模型形式不是唯壹的，所以于模型识别阶段应多选择几种模型形式，以供进壹步选择。 表 过程和其自关联函数偏自关联函数特征 模型 自关联函数特征 偏自关联函数特征 ARIMA(1,1,1) xt=1xt-1+ut+1ut-1 缓慢地线性衰减 AR（1） xt=1xt-1+ut 若1>0，平滑地指数衰减 若1<0，正负交替地指数衰减 若11>0，k=1时有正峰值然后截尾 若11<0，k=1时有负峰值然后截尾 MA（1） xt=ut+1ut-1 若1>0，k=1时有正峰值然后截尾 若1<0，k=1时有负峰值然后截尾 若1>0，交替式指数衰减 若1<0，负的平滑式指数衰减 一. 识别 用相关图和偏相关图识别模型 形式（确定参数 d, p, q） 二. 诊断与检验 包括参数的显著性检验和 残差的随机性检验 止 2 4 6 8 10 12 14 不可取 AR（2） xt=1xt-1+2xt-2+ut 指数或正弦衰减 （俩个特征根为实根） （俩个特征根为共轭复根） k=1,2时有俩个峰值然后截尾 （1>0，2>0） （1>0，2<0） MA（2） xt=ut+1ut-1+2ut-2 k=1,2有俩个峰值然后截尾 （1>0，2<0） （1>0，2>0） 指数或正弦衰减 （1>0，2<0） （1>0，2>0） ARMA（1，1） xt=1xt-1+ut+1ut-1 k=1有峰值然后按指数衰减 （1>0，1>0） （1>0，1<0） k=1有峰值然后按指数衰减 （1>0，1>0） （1>0，1<0） ARMA（2，1） xt=1xt-1+2xt-2+ut+1ut-1 k=1有峰值然后按指数或正弦衰减 （1>0，2<0，1>0） k=1,2有俩个峰值然后按指数衰减 （1>0，2<0，1>0） ARMA（1，2） xt=1xt-1+ut+1ut-1+2ut-2 k=1,2有俩个峰值然后按指数衰减 （1>0，1>0，2<0） （1>0，1>0，2>0） k=1有峰值然后按指数或正弦衰减 （1>0，1>0，2<0） （1>0，1>0，2>0） ARMA（2，2） xt=1xt-1+2xt-2+ut+1ut-1+2ut-2 k=1,2有俩个峰值然后按指数或正弦 衰减 （1>0，2<0，1>0，2<0） （1>0，2<0，1>0，2>0） k=1,2有俩个峰值然后按指数或正弦 衰减 （1>0，2<0，1>0，2<0） （1>0，2<0，1>0，2>0） 下面通过壹些关联图和偏关联图识别模型结构。 2.模型参数的估计 对于时间序列模型，壹般采用极大似然法估计参数。对于壹组相互独立的随机变量 xt, （t=1,2,…,T），当得到壹个样本(x1,x2,…,xT)时，似然函数可表示为 L(|x1,x2,…,xT)=f(x1|)f(x2|)…f(xT|)=|)() 其中=（1,2,…,k）是壹组未知参数。对数似然函数是 logL=f(xt|) 通过选择使上式达到最大，从而求得极大似然估计值。具体步骤是用上述对数似然函数对 每个未知参数求偏导数且令其为零，即 =0 … =0,（k个方程联立） 壹般来说似然函数是非线性的，必须采用迭代计算的方法求参数的极大似然估计值。极大似 然估计量(MLE)具有壹致性和渐近有效性。 首先讨论怎样对如下线性回归模型 yt=0+1xt1+2xt2+…+k-1xtk-1+ut,t=1,2,…,T,() 进行极大似然估计。假定 utN(0,2),则 yt也服从正态分布。 ytN(E(yt),2)， 其中 E(yt)=0+1xt1+2xt2+…+k-1xtk-1。若 yt是相互独立的，则对于样本(y1,y2,…,yT)，似 然函数是 L(,2|y1,,y2,…,yT)=f(y1)f(y2)…f(yT) 其中表示未知参数0,1,…,k-1的集合。由（）式每个 yt的概率密度函数为 f(yt)=exp[]. 对于样本(y1,y2,…,yT)，对数似然函数为 logL=f(yt)=-log2-log2--E(yt)]2() 上式右侧前俩项是常量。第三项的符号为负，所以对 logL极大化等同于选择值从而使平方 和-E(yt)]2极小化，即选择使 --xt1-xt2-…-xtk-1)2= 极小化。上式中表示残差。这种估计方法恰好和 OLS法相同，所以于这个例子中的 MLE估 计量和 OLS估计量完全相同，即=。和 OLS法不同的是极大似然估计法于估计的同时，仍得 到 ut方差的估计量。对（）式求2的偏导数且令其为零。 =-+-E(yt)]2=0() 用代替上式中 E(yt)中的得 =T-1 当下讨论怎样对时间序列模型的参数进行极大似然估计。 对于非平稳过程 yt，假定经过 d次差分之后能够表达为壹个平稳、可逆的自回归移动平 均过程 xt， (L)dyt=(L)xt=(L)ut.() 对于 yt假定能够观测到 T+d个观测值，即 y-d+1,…,y0,y1,…,yT，则经过 d次差分之后，xt的 样本容量为 T。以{x1,…,xT}为样本估计 ARMA(p,q)模型参数(1,…,p,1,…,q)。对随机过 程{xt}的参数估计就如对回归模型的参数估计壹样，目的是使 xt和其拟合值的残差平方和 = 最小。把()式改写为 ut=.() 若用，和分别表示对i,i和 ut的估计，则使下式最小。 =S(,…,,,…,)() 假定 utN(0,u2),t=1,…T，且不存于自关联，则条件对数似然函数为 logL=-Tlogu-() 之所以称之为条件对数似然函数是因为依赖于过去的不可知观测值 x0,x-1,…,x-p+1和 u0,u-1,…,u-q+1。比如 u1=x1-1x0-2x-1-…-px-p+1-1u0-…-qu-q+1() 对（）式求极大即等同于对求极小。对求极小时需要先确定 x0,x–1,…,x-p+1和 u0,u-1,…,u-q+1的值。此问题的壹般处理方法是取这些变量等于他们的无条件期望值。 u0,u-1,…,u-q+1的无条件期望值为零。若模型（）中不含有漂移项，则 x0,x-1,…,x-p+1的 无条件期望值也为零。当样本容量 T和滞后长度 p,q值相比充分大，且1,…,p的值不接近 1 时，这种近似非常理想。 若()式中不含有移动平均项，对于自回归参数来说()式是壹个线性函数。能够 用 OLS法估计参数。如果()式中含有移动平均项，那么对于移动平均参数来说，() 式是壹个非线性函数。对()式必须采用非线性估计方法。 首先假定模型为纯自回归形式， (L)xt=ut() 或 xt=1xt-1+…+pxt-p+ut.() 这是壹个线性回归模型，极大似然估计和 OLS估计结果近似相同。 当模型中含有移动平均成分时 ut=-1(L)(L)xt() 对于参数来说，模型是非线性的。对于非线性模型，通常由三种估计方法。 ⑴直接搜索法。通过改变参数的取值，反复计算残差平方和的值。然后从中选择最小的 那个值所对应的参数值作为对参数的估计值。这种方法只有于参数个数较少时才是可行的。 当参数个数较多时，计算量将非常大。例如当含有四个被估参数，每个参数需选择 20个计 算值时，则需要计算(20)4=160000次。 ⑵直接优化法。求误差平方和函数对每壹个参数的偏导数且令其为零，从而求得正规方 程 =0,i=1,…,p+q() 其中（1,…,p+q）=（1,…,p,1,…,q）。因为 p+q个方程中均含有 p+q个参数，所以必须 联立求解。由于计算上的困难，这种方法很少直接采用。 ⑶线性迭代法。对任何非线性函数通常均能够按泰勒级数展开。 f(x)=f(x0)+f‘(x0)(x–x0)+…=f(x0)-f‘(x0)x0+f‘(x0)x+… 首先为参数选壹组初始值（1,0,…,p+q,0）（下标零表示初始值。怎样确定初始值且不重 要。），然后将 xt=f(xt-1,…,xt-p)按泰勒级数于（1,0,…,p+q,0）点展开。 xt=f(xt-1,…,xt-p,1,0,…,p+q,0)+ ++…() 其中偏导数的下标写为零表示偏导数于1=1,0,…,p+q=p+q,0时的值。取上式右侧的前俩项对 原非线性函数 xt进行近似。去掉右侧第三项及以后各项得 xt-f(xt-1,…,xt-p,1,0,…,p+q,0)+=+ut.() 上式为线性回归方程形式。左侧为已知量，右侧含有壹组未知量i,i=1,…,p+q。利用 OLS法 对上式进行估计。设所得估计值用（1,1,…,p+q,1）表示。以此作为第二组估计值，对非线 性函数再壹次线性化，从而得到壹个新的线性方程。 xt-f(xt-1,…,xt-p,1,1,…,p+q,1)+=+ut() 对上式再次应用 OLS法估计参数，且把(1,2,…,p+q,2)作为待估参数的第三组估计值。重复 上述过程，直至满足如下要求为止。 <,i=1,…,p+q,() 其中 i表示参数序号，j表示迭代次数。是预先给定的精度标准。 如果最后壹次的参数估计值用(1,k,…,p+q,k)表示，且且(1,k,…,p+q,k)接近真值 (1,…,p+q)，则必有，  所以有 xt=f(xt-1,…,xt-p,1,k,…,p+q,k)+ (1,k,…,p+q,k)是对(1,…,p+q)的最终估计。这种迭代计算壹般均是通过计算机完成。 评价线性模型的壹些统计量例 F,t等均不能直接用于评价非线性模型。原因是尽管 ut是正态 分布的且均值为零，但残差 =xt-=xt-f(xt-1,…,xt-p,1,k,…,p+q,k)() 不服从正态分布，则不服从2分布，参数估计量不服从正态分布。所以不能使用 F和 t检验。然而对迭代中的最后壹步能够进行 F,t检验。如果估计量=i,k,（i=1,…,p+q）， 接近真值i，那么 F,t检验将会对非线性模型有很满意的解释作用。 3.诊断和检验 完成模型的识别和参数估计后，应对估计结果进行诊断和检验，以求发现所选用的模型 是否合适。若不合适，应该知道下壹步作何种修改。 这壹阶段主要检验拟合的模型是否合理。壹是检验模型参数的估计值是否具有显著性； 二是检验模型的残差序列是否为白噪声。参数估计值的显著性检验是通过 t检验完成的，而 模型的残差序列是否为白噪声的检验是用 Box-Pierce(1970)提出的 Q统计量完成的。Q检验 的零假设是 H：1=2=…=K=0 即模型的误差项是壹个白噪声过程。Q统计量定义为 Q=T() 近似服从2(K-p-q)分布，其中 T表示样本容量，rk表示用残差序列计算的自关联系数值，K表 示自关联系数的个数，p表示模型自回归部分的最大滞后值，q表示移动平均部分的最大滞 后值。 Ljung和 Box认为()式定义的 Q统计量的分布和2(K-p-q)分布存于差异（相应值偏小）， 于是提出修正的 Q统计量。 Q=T(T+2)() 其中 rk，K，p，q的定义如()式。修正的 Q统计量()近似服从2(K-p-q)分布。且它的 近似性比原 Q统计量的近似性更好。（EViews中给出的 Q统计量就是按()式定义的。） 用残差序列计算 Q统计量的值。显然若残差序列不是白噪声，残差序列中必含有其他成 份，自关联系数不等于零。则 Q值将很大，反之 Q值将很小。判别规则是： 若 Q<2(K-p-q)，则接受 H0。 若 Q>2(K-p-q)，则拒绝 H0。 其中表示检验水平。 4. 时间序列模型预测 下面以 ARMA(1,1)模型为例具体介绍预测方法。其他形式时间序列模型的预测方法和此 类似。 设对时间序列样本{xt},t=1,2,…,T，所拟合的模型是 xt=1xt-1+ut+1ut-1() 则理论上 T+1期 xt的值应按下式计算 xT+1=1xT+uT+1+1uT() 用估计的参数,和分别代替上式中的1,1和 uT。上式中的 uT+1是未知的，但知 E(uT+1)=0，所 以取 uT+1=0。xT是已知的（样本值）。对 xT+1的预测按下式进行 =xT+() 由()式，理论上 xT+2的预测式是 xT+2=1xT+1+uT+2+1uT+1 仍取 uT+1=0，uT+2=0，则 xT+2的实际预测式是 =() 其中是上壹步得到的预测值，和此类推 xT+3的预测式是 =() 由上可见，随着预测期的加长，预测式()中移动平均项逐步淡出预测模型，预测式变成 了纯自回归形式。 若上面所用的 xt是壹个差分变量，设yt=xt，则得到的预测值相当于,(t=T+1,T+2,…)。 因为 yt=yt-1+yt 所以原序列 T+1期预测值应按下式计算 =yT+() 对于 t>T+1，预测式是 =+,t=T+2,T+3,…() 其中是相应上壹步的预测结果。 用 EViews计算关联图和偏关联图。 附录：对()式（自关联函数通解表达式）的证明 对于 AR(p)过程 xt=1xt-1+2xt-2+…+pxt-p+ut(1) 它的自关联函数满足下式， k=1k-1+2k-2+…+pk–p,k0(2) （见《计量经济分析》第 77页）即有 (1-1L-2L2-…-pLp)k=0(3) 则（2）式的自关联函数有如下形式通解， k=A1G1k+A2G2k+…+ApGpk.(4) 其中 Ai,i=1,…p为待定系数。Gi-1,i=1,2,…,p是（3）式特征方程 (1-1L-2L2-…-pLp)=0 的根。 证明（1）：首先以 AR(2)过程为例 xt=1xt-1+2xt-2+ut(5) 由上式可知 k=1k-1+2k-2,k0(6) 即有 (1-G1L)(1–G2L)k=0(7) 其中，Gi-1,i=1,2是方程(1-1L-2L2)=0的根。令 (1–G2L)k=yk(8) 由(7)式，可得 (1-G1L)yk=0(9) 将上式展开且进行迭代，可得 yk=G1yk－1=G1(G1yk－2)=G12yk－2=…=G1ky0 其中 y0是由初始值确定的常数。由(8)式可得 k=G2k－1+yk=G2k－1+y0G1k(10) 对上式进行迭代， k=G2(G2k－2+y0G1k-1)+y0G1k =G22k－2+y0G2G1k-1+y0G1k …. =G2k0+y0(G1k+G2G1k-1+…+G2k-1G1)(11) 当（3）式有相同的根（G1=G2）时， k=G1k+y0kG1k=G1k(1+y0k) 当（3）式的根不相等（G1≠G2）时，因为 G1k-G2k=(G1-G2)(G1k-1+G1k-2G21+…+G11G2k-2+G2k-1)， 所以（11）式 k=G2k0+y0G1(G1k-1+G2G1k-2+…+G2k-1) =G2k0+y0G1=G2k0+(G1k–G2k) =G2k+G1k–G2k=G1k–(1–)G2k =A1G1k–A2G2k(12) 其中 A1=,A2=1- 同理能够证明（2）式的通解是（4）式。（Ai是壹个权数，所以它应该和系数以及系数方程 的特征根有关系的。） 证明（2）：下面用归纳法证明。假定对于 AR(p-1)过程， xt=1xt-1+2xt-2+…+p-1xt–p+1+ut(13) 则它的自关联函数有如下形式通解 k=A1,p-1G1k+A2,p-1G2k+…+Ap-1,p-1Gp-1k.(14) 其中，Gi-1,i=1,2,…,p-1是方程(1-1L-2L2-…-p-1Lp-1)=0的根；Ai,p-1,i=1,…p-1为待定系 数。 对于 AR(p)过程， xt=1xt-1+2xt-2+…+pxt-p+ut(15) 则它的自关联函数满足下面方程 k=1k-1+2k-2+…+pk–p,k0(16) 即有 (1-G1L)(1–G2L)…(1–GpL)k=0(17) 其中，Gi-1,i=1,2是方程(1-1L-2L2-…-pLp)=0的根。令 (1–GpL)k=yk(18) 由(17)式，可得 (1-G1L)(1–G2L)…(1–Gp-1L)yk=0(19) 即 yk满足 AR(p-1)过程的自关联函数方程，从而可得 yk=A1G1k+A2G2k+…+Ap-1Gp-1k.(20) 由(18)式可得 k=Gpk-1+yk=Gpk-1+(21) 对上式进行迭代， k=Gp(Gpk-2+)+ =Gp2k-2+=…. =Gpk0+(22) 证毕