自回归移动平均模型解析.docx

1、自回归移动平均模型解析第二章自回归移动平均模型Box 和 Jenkins 创立的 ARMA并由此对时间序列的变化进一些金融时间序列的变动往往呈现出一定的平稳特征，由 模型就是借助时间序列的随机性来描述平稳序列的相关性信息, 行建模和预测。第一节ARMA模型的基本原理ARMA模型由三种基本的模型构成：自回归模型( AR, Auto-regressive Model)，移动平 均模型(MA，Moving Average Model)以及自回归移动平均模型 (ARMA，Auto-regressive Moving Average Model)。2.1.1自回归模型的基本原理1.AR模型的基本形式AR

2、模型的一般形式如下：办乂1办 2办上 %申；t其中，c为常数项，1, 2 模型的系数，；t为白噪声序列。我们称上述方程为 p阶自回归模型，记为 AR(p)。2.AR模型的平稳性此处的平稳性是指宽平稳，即时间序列的均值，方差和自协方差均与时刻无关。 即若时间序列%是平稳的，即 E(yt)=, Var (yt 2 , Cov(yt, y) = 。为了描述的方便，对式(2.1 )的滞后项引入滞后算子。若 yt二xtj，定义算子“ L”，r . k使得yt =Lxt =为4 L称为滞后算子。由此可知， L人=Xt。对于式子(2.1),可利用滞后算子改写为：yt =c 丄 2L2% pLP% t移项整理

3、，可得：(1- 丄- 2L2 - - pLp)yt 二c ；tAR(p)的平稳性条件为方程1 - 1L - qL2 -pL0的解均位于单位圆外。3.AR模型的统计性质(1)AR模型的均值。假设AR(p )模型是平稳的，对 AR(p )模型两边取期望可得：根据平稳序列的定义知， E(yJ = I ,由于随即干扰项为白噪声序列，所以 E(；J = 0,因此上式可化简为：(1 - 1 - 2 - )亠八01 一 - _p(2)AR模型的方差。直接计算AR( p)模型的方差较困难，这里引入 Green函数。AR(p )模型可以改写成如下形式：y t：(L)设 j p为平稳AR(p )模型的反特征根，则

4、p:：J(L) =1一 丄一 2L2 -川一 pLp 【(1- 丄)。i =1进一步，p k p p ：yt 亠 .t ki( i LV t ki 订；tj = Gj ；t_ji=11，-iL imj=o j=0im j =0p其中，ki为常数，Gj八.ki ij，称为Green函数，因为 p均在单位圆内，所i =1以Green函数是呈负指数下降的。对上式两边取方差，可得：C3O2var(yt) =、Gj var( ；t_j)j=0由于随机干扰项为白噪声序列， 所以var(；t_j)=匚2。因为Green函数是呈负指数下降,- 2所以Gj ：:，这说明平稳时间序列方差有界，且等于常数 、Gj务

5、2。j =0 j=P(3)自协方差函数。假设将原序列已经中心化，贝V E(yt) =0，则对 AR( p)模型等号两边同时乘以yt上(-k _1)，两边取期望得：E(ytytjJ = 土卜少) jEWtytjJ pE(yt_pytjJ E(心)因为当期的随机干扰项与过去的时间序列值无关，所以： E(；tyt上)=0。因此，上式可以化为：G二】丄2其中rk，表示k阶自协方差。2.1.2 移动平均模型的基本原理1.MA模型的基本形式MA模型的一般形式如下：办=U J 二2 ；2乜2其中，u为常数项，rc2Jp为模型的系数，；t为白噪声序列。我们称上述方程为 q 阶移动平均模型，记为 MA(q)。2

6、、 MA模型的可逆性对于一个 MA( q)模型：yt = U ；t 7 2 宀2 2 Tq ；tT将其写成滞后算子的形式：yt-u=(1,丄 F2 ，qLq)；t若方程1 1L2 TqLq =0的根全部落在单位圆外， 则称MA模型是可逆的。可逆性可以保证 MA模型可以改写成：(L)(yt -u 即MA模型可以转化为 AR模型，同时可以保证参数估计的唯一性。3、MA模型的数字特征（1） 均值当q ：:：:时，对于一般的 MA （q）模型：yt = U -t J 2 -t _2 L 入討 _q两边取期望，可得：E（yJ = E（u “ ；2 I ；t, * L Vq ；t）二 u即一般的MA（q）

7、模型的期望值即为模型中的常数项。（2） 方差对MA（q）模型，两边取方差：Var （yt） =Var （u t ：勺；t：*2 t _2 为戈卫）=（1 W -V ）；（3）协方差函数rk 二Elyy 上）=E（u 上 T t二 t 2 F ；t）（u y T 2丄 V 為 化简可得：匚2（1 V2 ； 川 v：）,k =0 k二F卞1 川启山）,0你0,k q2.1.3自回归移动平均模型的基本原理1、ARMA模型的基本形式ARMA模型的一般形式如下:yt 二 C2丫2 一 ；t 二1 ；2 二2 2 一 二 p ；tT显然ARMA（p,q）模型可看成是AR（p）模型和MA（q）模型相结合的混

8、合形式。2、ARMA模型的平稳性和可逆性对于一个 ARMA（ p，q）模型，yt =C1丫22人,；t 二1 ；t J 二2 2 f p将其写为滞后算子的形式：（1 一 丄 一 L2 -1_一 pLp）yt 二 c （1 JL L2 L jqLq） t两边同时除以（1 - L - ；L2-L-Lp）其中:叫)二由此可以看出，ARMA模型的平稳性完全取决于 AR(p)模型的参数，与 MA (q)模型 的参数无关。类似地，ARMA模型的可逆性完全取决于 MA( q)模型的参数，与 AR ( p)模型的参数 无关。3、ARMA模型的数字特征(1)期望对于一个一般的ARMA(p,q)模型两边同时取期望

9、，化简得:E（yJ =(2)自协方差函数厲=E（yt y 十）=E（艺 G J）（无 Gjflt*J=0 j=0=E.一 Gi _ G j ;t _i ；t k _j i j 0=二2 GiGi ki 第二节时间序列的相关性分析与平稳性2.2.1时间序列的自相关系数2.2.1.1自相关函数(ACF1、AR(p)的自相关函数在上一节中已经介绍了 AR( p)模型的协方差函数满足下式：rk =人2心.p由于自相关系数坯二土，因此:ro人二1凡丄-2 ；k 2P凡该式表示自相关系数满足 p阶差分方程。根据差分方程解的性质， 上差分方程的通解可 以写为:p珥k）八Gi=1其中，Ci为任意不全为 0的常

10、数， 是滞后多项式的反特征根。根据平稳性的性质,闊灯：【。从自相关系数的一般形式可看出， 闻:始终不为0，但是随着滞后阶数的增加，自相关系数慢慢逼近 0，在图形上表现出一定的拖尾性。2、MA模型的自相关函数根据上一节推导的 MA模型的自协方差函数的表达式， MA模型的自相关函数表示为：1,k =0,0 : k _q1 V 川応0,k q忙=丄=1 Fl 川启/q 4截尾的。3、ARMA模型的自相关函数根据ARMA模型的自协方差函数，不难得到 ARMA模型的自相关函数:QO./ 为 GjGi*4 = k :.0 、Gi2i =0由此可以看出，ARMA模型的自相关函数不具有截尾性。事实上， ARM

11、A模型若满足可逆性，其形式相当于一个无穷阶的 AR模型，因此自相关函数与 AR模型一样具有拖尾性。2.2.1.2 偏自相关函数(PACF1、偏自相关函数的定义自相关函数卜；不能纯粹地表示 霜与之间的相关性，两者的相关性还会受到：辽-，亠.;加护-的间接影响，为了单纯地表示 .与 : 之间的相关性，这里引入偏自相关函数。 偏自相关函数表示在固定 沁I的情况下豁与聘出之间的相关性。下面介绍偏自相关函数Lhj的计算方法。设序列yt可由下回归方程估计：yt =时 yt i * 人2 yt 2 IH kk 丄 yt 上 1. yt a根据回归方程的性质，式中估计系数 翠慝即为偏自相关函数。为了估计回归系

12、数，采用OLS方法，即L = E( yt - k1ytl - k2 yt _2 kk 丄y t _k _ kk yt Jk )达到取小。对L关于各回归系数求偏导，可得到以下方程组：1 ,2HI kk 讥：2 = k1 i 1 ： % k2 i 0 H I kk i k 2kp后等于0，即AR(p)模型的偏自相关函数具 有截尾性。事实上，AR模型偏相关函数的截尾性也可直接从该模型的表达式看出。 AR( p)模型实质上假设序列至多只与滞后 p阶的值相关，因此偏自相关函数至多在 p阶处非0。3、MA (q)和ARMA ( p, q)的偏自相关函数由于MA (q )和ARMA ( p, q)相当于无穷

13、阶的 AR模型，因此这两个模型的偏自相关函数均不具有截尾性，而是拖尾性。221.3 ARMA模型自相关系数与偏自相关系数的估计与检验根据以上分析，不同 ARMA模型自相关系数与偏自相关系数的表现存在明显的差异。表2.1给出了三类模型 ACF与PACF的特征。表2.1 ARMA 类模型 ACF与PACF的特征模型自相关系数偏自相关函数AR （p）拖尾p阶截尾MA （ q）q阶截尾拖尾ARMA （ p，q）拖尾拖尾因此，我们可以通过观察偏自相关函数来识别并确定 AR模型的滞后阶数，通过自相关函数来识别并确定 MA模型的滞后阶数q。那么对于给定的样本数据，如何估计样本 ACF与PACF并从统计角度检

14、验两者是否为 0呢？下面分别介绍 ACF与PACF的估计与检验。1、样本ACF与PACF的估计与实现而言，样本自协方差表示为:1 T_k%二百侨一 0如+厂刃j=i其中表示样本均值。那么 SACF=.。对于PACF主要是利用 Yule- Wolker方程求解。当滞后阶数较大时，Y-W方程直接计算较难，目前多采用递推算法来求解。2、样本ACF与PACF的显著性检验ACF 和若序列满足独立性，则由统计渐进分布的有关定理可知，当样本个数充分大时,PACF均满足均值为0，方差1/T的正态分布，即因此若區|：；匸，|轨：1.筠匸，则可认为样本数据是独立的，即自相关系数和偏自相关系数均不显著异于 0。该检

15、验法即为正态检验法。Portmanteau检验法是联合检验法，即检验直到 k阶的自相关系数是否同时为 0。该检验法使用Q统计量进行检验。Q统计量具体形式为：Q=T(T + 2)去j=i其中T为样本容量，k为设定的滞后阶数。 Q统计量服从 诜I；分布。当Q统计量超过 设定的临界值时，就拒绝原假设，即序列至少存在 k阶以内的自相关性。2.2.2 时间序列平稳性检验建立ARMA的前提是序列是平稳的。检验平稳性常用的方法主要有三种：经验法、自 /偏自相关系数法、单位根检验法。1经验法经验法是通过观察图形的方式来初步判断时间序列是否平稳的。首先画出时间序列的图形，如果该图形围绕某一直线上下以较小的幅度波

16、动， 则该序列一般是平稳的， 否则是不平稳的。2、 自/偏自相关系数法由于ARMA模型的自/偏自相关系数要么是截尾的，要么是拖尾的，因此可以观察时间序列的自/偏自相关图，如果时间序列的自 /偏自相关系数从某个滞后期开始均与 0无差异， 可以认为该时间序列是平稳的；若自 /偏自相关系数衰减很慢，且与 0存在明显的差异，贝U 时间序列是非平稳的。3、 单位检验法常用的单位根检验法主要包括 DF检验法和ADF检验法。(1) DF检验法DF检验包括三种形式：% 二九 ；tyt 八ytv c ；t% 二 Lyt4 c t t其中，c为常数项，t表示线性趋势，随机干扰项独立同分布，且服从 N (0,二2)

17、。 根据平稳性的概念，若序列 yt是不平稳的，则回归系数 防辺。一般乍：1较易识别。因 此判断序列yt是否平稳，主要是判断 是否为1。如果=1，则说明序列存在单位根，是 不平稳的，否则是平稳的。yi = yn aLyt = yt c 亠冷.：yt = yt 二 c 亠 Et ；t其中，因此可以将DF检验的原假设和备择假设分别为：H。：已：、：:0相应的统计量为：PDF=std（p）DF的形式与t统计量相似，但是该统计量并不服从 t分布，Dickey和Fuller（ 1979）给出了利用蒙特卡罗模拟方法模拟的临界值，因此该检验称为 DF检验。DF检验是左侧检验，且不同形式的方程临界值是不同的。

18、注意DF检验只有当时间序列为 AR（ 1）过程时才有效。如果存在高阶滞后相关，那么将违背随机干扰项独立同分布的假设。因此， Dickey-Fuller提出来ADF检验来弥补DF检验的不足。（2）ADF检验假设时间序列存在 p阶自相关，那么用 p阶自回归方程来判断单位根，形式为：y iyt丄；yt2 申；t上式两边同时减去 yt ，通过整理可得：p丄闷=讪丄、:i yt *p p丄其中， i T， S- ji= j=t-H上述检验形式是在 DF检验方程中加入了 力的高阶滞后项，因此可以看成是 DF检验的增广形式，简称 ADF检验。与DF检验类似，ADF检验也存在三种形式，p_Lyt二讪1亠二：.

19、汇寸i 士p -Lyt 二c f 、： i 3t 丄i 士Pl绍=c 、：t Tyt 丄一二-i .-yt 丄 ti .1不难看出，当p=1时，ADF检验就是DF检验，因此DF检验是ADF检验的特例。检验的原假设和备择假设为：Ho： 40Hi :匸：0即原假设为序列至少存在一个单位根，备择假设为序列不存在单位根。使用 ADF检验时，应该注意如下几个问题：首先，要确定合理的滞后阶数。其次，因为检验统计量的临界值依赖于方程的形式，因此选择检验的方程形式很重要。再者，如果检验的结果是拒绝原假设， 那么原序列就不存在单位根， 即原序列是平稳的； 如果接受原假设，则序列是不平稳的，需要进行若干次差分，

20、直到拒绝原假设，从而确定序列单整的阶数。例2.1 以2003年2月到2010年4月上证国债（交易代码 000012 ）月末收盘指数为 原始数据进行分析。 首先对指数序列取对数， 然后对这个收益率序列进行单位根检验， 结果如下：表2.2上证综指收益率单位根检验表Null Hypothesis: LSP has a unit rootExogenous: Constant, Linear TrendLag Length: 0 (Automatic based on SIC, MAXLAG=11)t-StatisticProb.*Augmented Dickey-Fuller test statis

21、tic-2.0279890.5777Test critical values:1% level-4.0682905% level-3.46291210% level-3.157836从检验结果来看，应该接受原假设，即认为该序列存在单位根。第三节季节性ARMA模型GDP、消费支出等。它们2.3.1 时间序列的季节性在现实中，存在一些经济时间序列具有明显的季节性，比如具有共同的特点：有规律，每年重复出现，表现为逐年同时期有相同的变化方向和大致相同的变动幅度。一般我们认为季节性是一种对数据的干扰， 在数据分析中通常将其过滤。那么该如何识别时间序列的季节性。常用的分析方法是自相关图分析法。观察时间序列

22、的自相关图，如果是月度数据，可以观察滞后期为 12、24、36的自相关系数；如果是季度数据，可以观察滞后期为 4、8、12的自相关系数。如果自相关系数与0无差异，那么同月或者同季度之间不相关， 即不存在季节性，否则该时间序列具有季节性。值得注意的是， 若时间序列的趋势性较强时，这种趋势性会掩盖季节性， 因此分析季节性时，应该先消除时间序列的趋势性。由于季节性是对数据的一种干扰，因此在数据分析中常常消除季节性。常用的处理季 节性的方法主要包括三种：（1）移动平均法；（2）用X-11方法去掉时间序列的季节性； （3）采用逐期差分和季节差分，建立SARMA模型。下面先简单介绍一下移动平均法和 X-1

23、1方法，再重点介绍SARMA模型。1、 移动平均法移动平均法是将原时间序列的两个或多个时期的数据进行平均，用平均值代替原序列值，以此来平滑周期性。假设周期长度为 s,则在时点t上的移动平均值可以表示为：s丄 %丄MAt =広s2、 X-11方法X-11方法最初是由美国人口普查局在 1965年研究开发出来的方法。它的基本原理是滑 动平均法法。这种方法能适应各经济指标的性质， 并根据季节调整的目的进行相应的调整及 进行算法的选择。X-11方法包括两种模型：加法模型和乘法模型。加法模型的基本形式为：yt 二人 s h U乘法模型的基本形式为：yt =Tt St It Dt其中Tt为趋势循环要素，St

24、为季节要素，It为不规则变动要素，Dt为周工作日变动要素。 常用的是乘法模型，但注意乘法模型仅适用于时间序列数据为正的情况。例2.2以江苏省2001年1月到2009年12月的每月的社会消费品零售总额为原始数据，进行季节性分析。数据来源于中经网统计数据库。数据的时间序列图如下。从图中可以看出，该序列存在一定的周期性季节性变动。采用 X-11方法进行季节性调整，结果如下： SERIES0SA从图中可以看出，经过调整，季节性因素与不规则因素得到了一定程度的消除。2.3.2季节性ARMA模型SARMA模型是在回归项中加入季节自回归项（ SAR和季节移动平均项（SMA）来考虑季节性的。假设季节长度为 S

25、,则SMA（ q） （ m） S的一般形式为：yt -u =（1 nL pl2 - VqLq）（i PsLS rsL2S - rsLmS）t其中q为一般移动平均项的滞后阶数， m为季节性滞后阶数。SAR（ p）（ k）沖勺一般形式为：（1 一丄一 2L2 -1|1一 pLP）（1 !sLs 2sL2S -1|1一 kSLkS）yt ISSARMA的一般形式只需将 SAR和SMA合并即可，简记为： SARMA(p,q)(k,m)。为了进一步理解季节模型的特点，以滞后两阶的 AR模型为例，无季节性的 AR (2)模型如下：yt =c 叽 2%n ；t用滞后算子表示：(1 - 丄 - 2l2)yt

26、= c ；t对于带有季节性的季度数据，若 k=1，则模型就会变成下式：(1 -丄- 2L2)(1 - - L4)yt 二 c ；t它等价于：yt =c办2%丄一勺心yt_6 ；t因此该季节性AR模型实质上具有稀疏系数的更高阶 AR模型。SARMA模型的自相关系数与偏自相关系数与普通的 ARMA模型类似，只是ACF和PACF的计算需要计算滞后期分别为 S 2SmS处的大小，性质与 ARMA模型相同，即季节自回归模型的季节偏相关函数按季节周期的增加而截尾； 季节移动平均模型的季节自相关函数按季节周期增加而截尾；混合的季节自回归移动平均模型的季节自相关函数和偏相关函数均按 指数衰减。例2.3引用例2

27、2的数据进行季节性分析。为了便于分析，首先将数据取自然对数，然后进行差分去除趋势性。下图是新序列的 自相关图，结果如下:1111 0.079 0.079 0 6831 0 409匚a匚:12 -0.211 0.213 5 613S 0 06011II113 O.OOS 0.043 5 6211 0.1321了II4 0.141 0.094 7 8586 0.097|匸11匚il5 -0.106 -0.1 27 9.1639 0 103匚J匚1e -0.602 -0.575 50.960 0.0001匚117 -0119 -0.T29 52.619 0.0001JI匸1 0101 -0.159

28、53.813 0.0001 19 -0.027 -0.078 53.900 0.000匚II匚110 -0.233 -0.294 60.41 9 0 000111111 0,122 -0.027 62.237 0 0001|1ZI12 0.760 0.563 133.OS 000011n1 3 0 171 0 284 1 36.71 0,000匚1t 1114 -0.207 -0.042 1 42.00 0.00011 1115 0.019 -0.042 142.13 0.0001116 0.165 -0.098 1 45.63 0.0001匚11匚117 -0d41 -0.132 148 22 0 000匚11 -118 -0.527 -0.027 1S4.5B 0 000II111ff;-0J42 0.047 1S7.22 0.0001IIl20 0.134 0.143 189.64 0.0001 111 i21 -0.075 0 038 190.40 0,000匚11(122 -0 221 0.01 5 1 97.1