平稳时间序列分析-ARMA模型_精品文档.ppt
《平稳时间序列分析-ARMA模型_精品文档.ppt》由会员分享,可在线阅读,更多相关《平稳时间序列分析-ARMA模型_精品文档.ppt(100页珍藏版)》请在冰豆网上搜索。
第三章,平稳时间序列分析,第二节ARMA模型,AR模型(AutoRegressionModel)MA模型(MovingAverageModel)ARMA模型(AutoRegressionMovingAveragemodel),一、AR模型(AutoRegressionModel),具有如下结构的模型称为阶自回归模型,简记为特别当时,称为中心化模型,
(一)AR模型定义,AR(P)序列中心化变换,对于非中心化序列,作变换,则原序列即化为中心化序列,所以,以后我们重点讨论中心化时间序列。
AR模型的算子表示,令,则模型可表示为,
(二)AR模型平稳性判别,判别原因:
AR模型是常用的平稳序列的拟合模型之一,但并非所有的AR模型都是平稳的。
判别方法:
特征根判别法,平稳域判别法。
例3.1:
考察如下四个模型的平稳性,例3.1平稳序列时序图,例3.1非平稳序列时序图,从时序图上可以看出,
(1)(3)模型平稳,
(2)(4)模型非平稳。
(三)AR模型平稳性常用判别方法,特征根判别,平稳域判别,AR(p)模型平稳的充要条件是它的p个特征根都在单位圆内。
根据特征根和算子多项式的根成倒数的性质,AR(p)模型平稳的充要条件是该模型的算子多项式的根都在单位圆外。
平稳域为:
(四)两个常见模型的平稳性条件,1、AR
(1)模型平稳条件,特征根为,平稳条件,平稳域为,AR
(1)模型的平稳性条件也可以如下讨论:
对1阶自回归模型AR
(1),方程两边平方再求数学期望,得到Xt的方差:
由于Xt仅与t相关,因此,E(Xt-1t)=0。
如果该模型稳定,则有E(Xt2)=E(Xt-12),从而上式可变换为:
在稳定条件下,该方差是一非负的常数,从而有|1。
而AR
(1)的算子多项式方程:
的根为z=1/AR
(1)稳定,即|1,意味着特征根大于1。
2、AR
(2)模型平稳条件,特征根为,由,知等价于,平稳域,2+1=-12+(1+2)=1(1-1)(1-2)2-1=-12-(1+2)=1(1+1)(1+2),无论1,2为实数或共轭复数,由10,从而得,2+112-11,且-121,事实上,由于,平稳域是一个三角形区域。
见下图阴影部分。
平稳AR
(2)过程1,2取值域(阴影部分),回归参数2,1的取值变化分三种情形讨论。
(1)当12+42=0时,特征方程有相等实数根。
2,1取值在图中的抛物线上,称为临界阻尼状态。
(2)当12+420时,特征方程有不等实数根。
2,1的值位于过阻尼区(自相关函数呈指数衰减)。
(3)当12+420时,特征方程根为共轭复根。
2,1的值位于欠阻尼区(自相关函数呈正弦震荡衰减)。
AR
(2)模型的平稳性也可以如下讨论:
对AR
(2)模型:
方程两边同乘以Xt,再取期望得:
又由于:
于是:
同样地,由原式还可得到:
于是方差为:
由平稳性的定义,该方差必须是一不变的正数,于是有1+21,2-11,|2|1,对高阶自回模型AR(p)来说,多数情况下没有必要直接计算其特征方程的特征根,但有一些有用的规则可用来检验高阶自回归模型的稳定性:
(1)AR(p)模型稳定的必要条件是:
(2)由于可正可负,AR(p)模型稳定的充分条件是:
例3.1平稳性判别,(三)平稳AR模型的统计性质,1、均值,如果AR(p)模型满足平稳性条件,则有,根据平稳序列均值为常数,且为白噪声序列,有,推导出,
(1)Green函数定义,2、方差,将平稳的AR(p)模型表示成如下的传递形式,其中系数称为Green函数,求Green函数递推公式,由待定系数法可得如下递推公式,
(2)平稳的AR(p)模型的方差,由平稳AR模型的传递形式,两边求方差得,例3.2:
求平稳AR
(1)模型的方差,平稳AR
(1)模型的传递形式为,Green函数为,平稳AR
(1)模型的方差为,也可用以下方法计算,将原过程改写为,所以,3、自协方差函数,在平稳AR(p)模型两边同乘,再求期望,根据,得自协方差函数的递推公式,例3.3:
求平稳AR
(1)模型的自协方差函数,递推公式:
平稳AR
(1)模型的方差为,自协方差函数的递推公式为:
例3.4:
求平稳AR
(2)模型的协方差,利用,其中,所以,平稳AR
(2)模型的协方差函数递推公式为,4、自相关系数,
(1)自相关系数的定义:
特别,
(2)平稳AR(P)模型的自相关系数递推公式:
上述方程称为Yule-Walker方程。
(3)常用AR模型自相关系数递推公式,AR
(1)模型,AR
(2)模型,说明:
在AR
(1)模型中,即使没有直接出现在模型中,和也是相关的。
因为,所以,是通过与相关的,这种间接相关出现在任何AR模型中。
与的自相关系数等于与的自相关系数乘以与的自相关系数。
即,5、平稳AR(p)模型自相关系数的性质,
(1)拖尾性,
(2)呈负指数衰减,拖尾性说明之前的每一个序列值都会对构成影响,但因为自相关系数呈负指数衰减,所以,间隔较远的序列值对现时值的影响很小,具有所谓的“短期相关性”。
例3.5:
考察如下AR模型的自相关图,例3.5,自相关系数按负指数单调收敛到零,例3.5:
自相关系数呈现正负相间地衰减,例3.5:
自相关系数呈现出“伪周期”性,例3.5:
自相关系数不规则衰减,6、偏自相关函数,自相关函数ACF(k)给出了Xt与Xt-k的总体相关性,但总体相关性可能掩盖了变量间完全不同的相关关系。
例如,在AR
(1)中,Xt与Xt-2间有相关性可能主要是由于它们各自与Xt-1间的相关性带来的:
即自相关函数中包含了这种所有的“间接”相关。
与之相反,Xt与Xt-k间的偏自相关函数(partialautocorrelation,简记为PACF)则是消除了中间变量Xt-1,Xt-k+1带来的间接相关后的直接相关性,它是在已知序列值Xt-1,Xt-k+1的条件下,Xt与Xt-k间关系的度量。
定义:
对于平稳AR(p)序列,所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量的条件下,或者说,在剔除了中间k-1个随机变量的干扰之后,对影响的相关度量。
用数学语言描述就是,7、偏自相关系数的计算,
(1)直接利用回归方法计算,首先将序列中心化,作如下形式的回归,滞后k偏自相关系数实际上就等于k阶自回归模型第个k回归系数的值。
注意到:
所以,即为剔除了中间k-1个随机变量的干扰之后,与的相关系数,即与的偏自相关系数。
(2)利用Yule-Walker方程计算,当时,,当时,,所以,,一般地:
利用Cramer法则可得,(3)利用Levinson递推公式计算,或写成,其中,定理的证明:
Yule-Walker方程,可写为,利用归纳法,对k=1,Levinson递推公式显然成立。
假设公式对k-1已经成立,即,对k阶Yule-Walker方程,作上述分块矩阵,记,则是正交阵。
有,k阶Yule-Walker方程可记为,所以,由
(1)式,注意到:
-
(1),-
(2),-(3),代入
(2)式得,,所以,,注意到:
已经假定Levinson公式对k-1成立,即,所以有,再由(3)式得,即,8、平稳AR(p)模型偏自相关系数的截尾性,AR(p)模型偏自相关系数P阶截尾,这是因为对于AR(p)模型,与之间不存在直接相关。
所以,平稳AR(p)模型偏自相关系数的截尾性是AR模型所具有的一个重要特性,它可以帮助我们识别AR模型。
9、常用AR模型偏自相关系数公式,AR
(1)模型:
AR
(2)模型:
例3.5续:
考察如下AR模型的偏自相关图,例3.5,理论偏自相关系数,样本偏自相关图,例3.5:
理论偏自相关系数,样本偏自相关图,例3.5:
理论偏自相关系数,样本偏自相关图,例3.5:
理论偏自相关系数,样本偏自相关图,二、MA模型(MovingAverageModel),
(一)MA模型的定义,具有如下结构的模型称为阶移动平均模型,简记为,特别当时,称为中心化模型,利用延迟算子,中心化模型又可以简记为,其中,是阶移动平均系数多项式,为了以后识别一个模型是否是移动平均模型MA(q),下面讨论MA模型的统计性质,
(二)MA模型的统计性质,
(1)常数均值,
(2)常数方差,显然,MA模型是平稳的。
(3)MA模型的自协方差函数,MA(q)自协方差函数q阶截尾,(4)MA模型的自相关函数,MA(q)自相关系数q阶截尾,(5)常用MA模型的自相关系数,MA
(1)模型,MA
(2)模型,(6)MA模型的偏自相关系数,MA模型的偏自相关系数拖尾,对于中心化的MA(q)模型,有,例3.6:
考察如下MA模型的相关性质,MA模型的自相关系数截尾,可以看出
(1)
(2)自相关系数相同,MA模型的自相关系数截尾,可以看出(3)(4)自相关系数相同,MA模型的偏自相关系数拖尾,可以看出
(1)和
(2)的偏自相关系数相同,(3)和(4)的偏自相关系数相同。
(三)MA模型的可逆性,由例3.6可以看出,不同的MA模型可能具有完全相同的自相关系数和偏自相关系数,为了利用自相关系数和偏自相关系数来识别MA模型,要求给定一个自相关函数能够对应惟一的MA模型,这就要求我们给模型增加约束条件,这个约束条称为件MA模型的可逆性条件。
(1)MA模型可逆性的定义,定义:
若一个MA模型能够表示称为收敛的AR模型形式,那么该MA模型称为可逆MA模型。
意义:
可以保证一个自相关系数列唯一对应一个可逆MA模型。
(2)可逆的MA
(1)模型,(3)MA模型的可逆条件,MA(q)模型可逆的充要条件是:
MA(q)模型的特征根都在单位圆内,等价条件是算子多项式的根都在单位圆外,(4)MA模型逆函数的递推公式,利用待定系数法可得如下逆函数递推公式,由,若MA模型可逆,则MA模型可表示为,称为MA模型的可逆表示。
例3.6续:
考察如下MA模型的可逆性,逆函数为,逆转形式为(可逆表示),MA
(2)可逆条件:
(3)的逆函数为,(3)的逆转形式为(可逆表示),自回归与移动平均过程的关系一个平稳的AR(p)过程(1-1B-2B2-pBp)xt=ut可以转换为一个无限阶的移动平均过程,xt=(1-1B-2B2-pBp)-1ut=B)-1ut一个可逆的MA(q)过程xt=(1+1B+2B2+qBq)ut=B)ut可转换成一个无限阶的自回归过程,(1+1B+2B2+qBq)-1xt=B)-1xt=ut,对于MA(q)过程,只需考虑可逆性问题,条件是B)=0的根(绝对值)必须大于1,不必考虑平稳性问题。
对于AR(p)过程只需考虑平稳性问题,条件是B)=0的根(绝对值)必须大于1。
不必考虑可逆性问题。
三、ARMA模型,
(一)ARMA模型的定义,具有如下结构的模型称为自回归移动平均模型,简记为,特别当时,称为中心化模型。
利用延迟算子,中心化模型又可以简记为,其中,是阶自回归系数多项式,是阶移动平均系数多项式,
(二)ARMA(p,q)平稳条件与可逆条件,ARMA(p,q)模型的平稳条件:
P阶自回归系数多项式的根都在单位圆外,即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定。
ARMA(p,q)模型的可逆条件:
q阶移动平均系数多项式的根都在单位圆外,即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定。
(三)ARMA(p,q)传递形式与逆转形式,传递形式,逆转形式,无穷阶MA模型,无穷阶AR模型,格林函数,逆函数,其中,(四)ARMA(p,q)模型的统计性质,均值:
自协方差函数:
自相关系数:
例:
求ARMA(1,1)过程的自协方差函数,自相关函数,偏自相关函数。
解,所以,,偏自回归系数的Levinson递推公式为:
所以,的偏自相关系数为,类似地可求出,ARMA(1,1)模型可转化为无穷阶自回归模型:
类似地,可将ARMA(1,1)模型转化为无穷阶移动平均模型:
ARMA(1,1)过程是实际中最常用的模型。
ARMA(1,1)过程,(五)平稳可逆ARM