10时间序列模型.docx

1、10时间序列模型第2章 时间序列模型时间序列分析方法由Box-Jenkins (1976) 年提出。它适用于各种领域的时间序列分析。时间序列模型不同于经济计量模型的两个特点是： 这种建模方法不以经济理论为依据，而是依据变量自身的变化规律，利用外推机制描述时间序列的变化。 明确考虑时间序列的非平稳性。如果时间序列非平稳，建立模型之前应先通过差分把它变换成平稳的时间序列，再考虑建模问题。时间序列模型的应用：（1）研究时间序列本身的变化规律（建立何种结构模型，有无确定性趋势，有无单位根，有无季节性成分，估计参数）。（2）在回归模型中的应用（预测回归模型中解释变量的值）。（3）时间序列模型是非经典计量

2、经济学的基础之一（不懂时间序列模型学不好非经典计量经济学）。分节如下： 1随机过程、时间序列定义 2时间序列模型的分类 3自相关函数与偏自相关函数 4建模步骤（识别、参数估计、诊断检验、案例分析） 5回归与时间序列组合模型 6季节时间序列模型（案例分析）2.1 随机过程、时间序列为什么在研究时间序列之前先要介绍随机过程？就是要把时间序列的研究提高到理论高度来认识。时间序列不是无源之水。它是由相应随机过程产生的。只有从随机过程的高度认识了它的一般规律。对时间序列的研究才会有指导意义。对时间序列的认识才会更深刻。自然界中事物变化的过程可以分成两类。一类是确定型过程，一类是非确定型过程。确定型过程即

3、可以用关于时间t的函数描述的过程。例如，真空中的自由落体运动过程，电容器通过电阻的放电过程，行星的运动过程等。非确定型过程即不能用一个（或几个）关于时间t的确定性函数描述的过程。换句话说，对同一事物的变化过程独立、重复地进行多次观测而得到的结果是不相同的。例如，对河流水位的测量。其中每一时刻的水位值都是一个随机变量。如果以一年的水位纪录作为实验结果，便得到一个水位关于时间的函数xt。这个水位函数是预先不可确知的。只有通过测量才能得到。而在每年中同一时刻的水位纪录是不相同的。随机过程：由随机变量组成的一个有序序列称为随机过程，记为x (s, t) , sS , tT 。其中S表示样本空间，T表示

4、序数集。对于每一个 t, tT, x (, t ) 是样本空间S中的一个随机变量。对于每一个 s, sS , x (s, ) 是随机过程在序数集T中的一次实现。 x11, x21, , xT-11, xT1x12, x22, , xT-12, xT2 随机过程 x1s, x2s, , xT-1s, xTs 样本空间随机过程简记为 xt 或 xt。随机过程也常简称为过程。随机过程一般分为两类。一类是离散型的，一类是连续型的。如果一个随机过程xt对任意的tT 都是一个连续型随机变量，则称此随机过程为连续型随机过程。如果一个随机过程xt对任意的tT 都是一个离散型随机变量，则称此随机过程为离散型随机

5、过程。本书只考虑离散型随机过程。 连续型 严（强）平稳过程 随机过程 平稳的 离散型 宽平稳过程 非平稳的严（强）平稳过程：一个随机过程中若随机变量的任意子集的联合分布函数与时间无关，即无论对T的任何时间子集（t1, t 2, , tn）以及任何实数k, (ti + k) T, i = 1, 2, , n 都有 F( x(t1) , x(t2), , x(tn) ) = F(x(t1 + k), x(t2 + k), , x(tn + k) )成立，其中F() 表示n个随机变量的联合分布函数，则称其为严平稳过程或强平稳过程。严平稳意味着随机过程所有存在的矩都不随时间的变化而变化。严平稳的条件是

6、非常严格的，而且对于一个随机过程，上述联合分布函数不便于分析和使用。因此希望给出不象强平稳那样严格的条件。若放松条件，则可以只要求分布的主要参数相同。如只要求从一阶到某阶的矩函数相同。这就引出了宽平稳概念。如果一个随机过程m阶矩以下的矩的取值全部与时间无关，则称该过程为m阶平稳过程。比如 E x(ti) = E x(ti + k) = , Varx(ti) = Varx(ti + k) = 2 , Covx(ti), x(tj) = Covx (ti + k), x (tj + k) = i j2 ,其中 , 2 和 ij2 为常数，不随 t, (tT ); k, ( (tr + k) T,

7、r = i, j ) 变化而变化，则称该随机过程 xt 为二阶平稳过程（协方差平稳过程）。该过程属于宽平稳过程。 如果严平稳过程的二阶矩为有限常数值，则其一定是宽平稳过程。反之，一个宽平稳过程不一定是严平稳过程。但对于正态随机过程而言，严平稳与宽平稳是一致的。这是因为正态随机过程的联合分布函数完全由均值、方差和协方差所惟一确定。本书简称二阶平稳过程为平稳过程。时间序列：随机过程的一次实现称为时间序列，也用x t 或x t表示。 与随机过程相对应，时间序列分类如下， 连续型* （心电图，水位纪录仪，温度纪录仪） 时间序列 从相同的时间间隔点上取自连续变化的序列（人口序列） 离散型 一定时间间隔内

8、的累集值（年粮食产量，进出口额序列）时间序列中的元素称为观测值。xt既表示随机过程，也表示时间序列。xt既表示随机过程的元素随即变量，也表示时间序列的元素观测值。在不致引起混淆的情况下，为方便，xt 也直接表示随机过程和时间序列。随机过程与时间序列的关系如下所示：随机过程: x1, x2, , xT-1, xT,第1次观测：x11, x21, , xT-11, xT1第2次观测：x12, x22, , xT-12, xT2 第n次观测：x1n, x2n, , xT-1n, xTn某河流一年的水位值，x1, x2, , xT-1, xT,，可以看作一个随机过程。每一年的水位纪录则是一个时间序列，

9、x11, x21, , xT-11, xT1。而在每年中同一时刻（如t = 2时）的水位纪录是不相同的。 x21, x22, , x2n, 构成了x2取值的样本空间。例如，要记录某市日电力消耗量，则每日的电力消耗量就是一个随机变量，于是得到一个日电力消耗量关于天数t的函数。而这些以年为单位的函数族构成了一个随机过程 xt, t = 1, 2, 365。因为时间以天为单位，是离散的，所以这个随机过程是离散型随机过程。而一年的日电力消耗量的实际观测值序列就是一个时间序列。自然科学领域中的许多时间序列常常是平稳的。如工业生产中对液面、压力、温度的控制过程，某地的气温变化过程，某地100年的水文资料，

10、单位时间内路口通过的车辆数过程等。但经济领域中多数宏观经济时间序列却都是非平稳的。如一个国家的年GDP序列，年投资序列，年进出口序列等。为便于计算，先给出差分定义。差分：时间序列变量的本期值与其滞后值相减的运算叫差分。差分分为一阶差分和高阶差分。首先给出差分符号。对于时间序列x t ，一阶差分可表示为 xt - xt -1 = xt = (1- L) xt = xt - L xt (2.1)其中 称为一阶差分算子。L 称为滞后算子，其定义是Ln xt = xt- n 。差分算子和滞后算子可以直接参与运算。二次一阶差分表示为， xt = xt - xt -1 = (xt - xt -1) (xt

11、-1 - xt -2) = xt - 2 xt -1+ xt 2，或 xt = (1- L ) 2 xt = (1 2L + L 2 ) xt = xt 2 xt-1+ xt2 (2.2)k阶差分可表示为 xt - xt -k = k xt = (1- Lk ) xt = xt Lk xtk阶差分常用于季节性数据的差分，如4阶差分、12阶差分。滞后算子有如下性质。（1）常数与滞后算子相乘等于常数。Lc = c（2）滞后算子适用于分配律。(Li + Lj) xt = Li xt + Lj xt = xt -i+ xt j（3）滞后算子适用于结合律。Li Lj xt = Li+ j xt = xt

12、 -ij（4）滞后算子的零次方等于1。L0 xt = xt（5）滞后算子的负整数次方意味着超前。L-i xt = xt+i下面介绍两种基本的随机过程（1） 白噪声（white noise）过程（file：5gener1，u） 白噪声过程：对于随机过程 xt , tT , 如果E(xt) = 0, Var (xt) = 2 , tT; Cov (xt, xt + k) = 0, (t + k ) T , k 0 , 则称xt为白噪声过程。 图2.1a 由白噪声过程产生的时间序列（nrnd） 图2.1b 日元对美元汇率的收益率序列 图2.1c 白噪声过程的总体谱 2.1d AR(2)过程的总体谱（

13、1 = 0.99, 2 = -0.5）白噪声是平稳的随机过程，因其均值为零，方差不变，随机变量之间非相关。显然上述白噪声是二阶宽平稳随机过程。如果xt 同时还服从正态分布，则它就是一个强平稳的随机过程。白噪声源于物理学与电学，原指音频和电信号在一定频带中的一种强度不变的干扰声。（2） 随机游走（random walk）过程（file：5gener1，x1）对于下面的表达式 xt = xt -1 + ut ( 2.3)如果ut 为白噪声过程，则称xt 为随机游走过程。 图2.1e. 由随机游走过程产生时间序列 图2.1f. 深圳股票综合指数“随机游走”一词首次出现于1905年自然（Nature）

14、杂志第72卷Pearson K.和Rayleigh L.的一篇通信中。该信件的题目是“随机游走问题”。文中讨论寻找一个被放在野地中央的醉汉的最佳策略是从投放点开始搜索。随机游走过程的均值为零，方差为无限大。 xt = xt -1 + ut = ut + ut-1 + xt -2 = ut + ut-1 + ut-2 + E(xt) = E(ut + ut-1 + ut-2 + ) = 0, Var(xt) = Var(ut + ut-1 + ut-2 + ) = 所以随机游走过程是非平稳的随机过程。 2.2时间序列模型的分类 (1)自回归过程如果一个剔出均值和确定性成分的线性过程可表达为 xt

15、 = 1xt-1 + 2 xt-2 + + p xt-p + ut , (2.4)其中i, i = 1, p 是自回归参数，ut 是白噪声过程，则称xt为p阶自回归过程，用AR(p)表示。xt是由它的p个滞后变量的加权和以及ut相加而成。 若用滞后算子表示 (1- 1L - 2 L2 - - p Lp ) xt = L) xt = ut (2.5)其中 L) = 1- 1L - 2 L2 - - p Lp称为特征多项式或自回归算子。与自回归模型常联系在一起的是平稳性问题。对于自回归过程AR(p)，如果其特征方程 z) = 1- 1 z - 2 z2 - - p z p = (1 G1 z) (

16、1 G2 z) . (1 Gp z) = 0 (2.6)的所有根的绝对值都大于1，则AR(p)是一个平稳的随机过程。AR(1)过程分析。图2.2 AR(1)过程（file：5gener1，x2） xt = 1 xt-1 + ut (2.7)保持其平稳性的条件是特征方程 (1 - 1 L) = 0根的绝对值必须大于1，满足 |1/1| 1也就是 | 1| 1解释如下：一阶自回归过程，xt = 1 xt-1 + ut，可写为 (1- 1L) xt = ut xt = (1- 1 L)-1 ut 在 | 1| 1条件下，有xt = (1+ 1L + (1 L) 2 + (1 L) 3 +) ut 若

17、保证AR(1)具有平稳性，必须收敛，即1必须满足|1| 1。这是容易理解的，如果|1|1，发散，于是xt 变成一个非平稳随机过程。由（2.7）式有 xt = ut + 1 ut-1 + 12 xt-2 = ut + 1 ut-1 + 12 ut-2 + （短记忆过程）因为ut 是一个白噪声过程，所以对于平稳的AR(1)过程 E(xt) = 0 Var (xt) = u2 + 12 u2 + 14u2 + = 上式也说明若保证xt平稳，必须保证 | 1| 1, L2 1（在单位圆外）或 1 1, 2 1 (2) 对于AR(2)模型，求特征方程的根要比AR(1)模型困难得多。下面利用特征方程的根与

18、模型参数 2， 1的关系求保证AR(2)过程平稳的 2， 1的取值条件（或值域）。由 (1) 式得1 + 2 = += 1 (3)1 2 = - = - 2 (4)利用 (3)，(4) 式得 2 + 1 = - 1 2 + (1 +2) = 1 (1- 1) (1- 2 ) 2 - 1 = - 1 2 - (1 +2) = 1 (1+ 1) (1+ 2 )无论 1, 2为实数或共轭复数，由 1 1, 2 0，从而得 2 + 1 1 (5) 2 - 1 1 (6)由 (2) 和 (4) 式得 -1 2 0 时，L1, L2 为不等实数根。2, 1的值位于过阻尼区（自相关函数呈指数衰减）。(3)当

19、 12 + 4 2 0 时，根为共轭复根。 2, 1的值位于欠阻尼区（自相关函数呈正弦震荡衰减）。例2 有AR(2) 模型xt = 0.7 xt -1 - 0.1 xt -2 + ut，试判别xt的平稳性。解：有3种方法。解法1：（检查1, 2约束条件）+= 0.6，-+= -0.8， = - 0.1，满足条件（5）（6）（7），所以xt是平稳的。解法2：（因式分解求根）由原式得 (1 - 0.7 L + 0.1 L2 ) xt = ut 。 特征方程为， (1 - 0.7 L + 0.1 L 2 ) = 0 (1 - 0.2 L) (1- 0.5 L) = 0特征方程的两个根是，L1 = 5

20、，L2 = 2。因为两个根都在单位圆之外，所以xt是平稳的。解法3：（观察（1, 2）点是否落在三角区）从图1看，因为（1, 2）= (0.7, -0.1)，落在了AR(2) 过程的平稳域，落在了过阻尼区，所以xt为平稳过程。例3：有AR(2) 模型x t = 0.6 x t-1 - 0.1 x t-2 + ut ，试判别xt的平稳性。解：解法1：（检查1, 2约束条件）+= 0.5，-+= -0.7， = - 0.1，满足条件（5）（6）（7），所以xt是平稳的。解法2：（因式分解求根）由原式得，(1 - 0.6 L + 0.1 L2 ) x t = ut ，特征方程为， (1 - 0.6

21、L + 0.1 L2 ) = 0因为特征方程中各项都是实数，所以其虚根必然是共轭的。 1- (0.3 - 0.1i ) L 1- (0.3 + 0.1i ) L = 0特征方程的两个根是， 3 + i L1 = = = 3 + i， 3 L2 = = 3 - i， 3 - i因为两个根都在单位圆之外，所以xt是平稳的随机过程。解法3：（观察（1, 2）点是否落在三角区）从图1看，因为（1, 2）= (0.6, -0.1)，落在了AR(2) 过程的平稳域，落在了欠阻尼区，所以xt为平稳过程。例4：有AR(2) 模型x t = 0.7 x t-1 + 0.6 x t-2 + ut ，试判别xt的平

22、稳性。解：解法1：（检查1, 2约束条件）+= 1.3，-+= -0.1， = 0.6，条件（5）不满足，所以xt是非平稳的。解法2：（因式分解求根）由原式得，(1 - 0.7 L - 0.6 L2 ) xt = ut ，特征方程为， (1 - 0.7 z - 0.6 z 2 ) = 0(1 + 0.5 z ) (1- 1.2 z ) = 0特征方程的两个根是，z1 = -2，z2 = 0.83。因为一个根0.83在单位圆内，所以xt是一个非平稳的随机过程。解法3：（观察（1, 2）点是否落在三角区）从图1看，因为（1, 2）= (0.7, 0.6)，落在了AR(2) 过程的非平稳域，所以xt

23、为非平稳过程。对于一般的自回归过程AR (p)，特征多项式 (L) = 1 - 1 L - 2 L2 - - p Lp = (1 G1 L) (1 G2 L) . (1 Gp L)则xt 可表达为 xt = -1 (L) ut = (+ +ut (2.8)其中k1, k 2, , k p 是待定系数。xt具有平稳性的条件是 -1 (L) 必须收敛，即应有| Gi | 1。由上式可看出一个平稳的AR(p)过程可以转换成一个无限阶的移动平均过程（p个无穷级数之和）。保证AR(p) 过程平稳的一个必要但不充分的条件是p个自回归系数之和要小于1，即 重新分析随机游走过程。因为 1 = 1，所以随机游走

24、过程是一个非平稳的随机过程。(2) 移动平均过程如果一个剔出均值和确定性成分的线性随机过程可用下式表达xt = ut + 1 ut 1 + 2 ut -2 + + q ut q = (1 + 1L + 2 L2 + + q Lq) ut = L) ut (2.9)其中 1, 2, , q是回归参数，ut为白噪声过程，则上式称为q阶移动平均过程，记为MA(q) 。之所以称“移动平均”，是因为xt是由q +1个ut和ut滞后项的加权和构造而成。“移动”指t的变化，“平均”指加权和。 由定义知任何一个q 阶移动平均过程都是由q + 1个白噪声变量的加权和组成，所以任何一个移动平均过程都是平稳的。与移

25、动平均过程相联系的一个重要概念是可逆性。移动平均过程具有可逆性的条件是特征方程。 z) = (1 + 1 z + 2 z2 + + q zq)= 0 (2.10)的全部根的绝对值必须大于1。 由 (2.9) 有 L)-1xt = ut。由于 L) 可表示为 L) = (1 H1 L) ( 1 H2 L) (1 Hq L)所以有 L)-1 =（+）, (2.11)mi为待定参数。可见保证MA(q)过程可以转换成一个无限阶自回归过程，即MA(q)具有可逆性的条件L)-1收敛。对于 | L | 1，必须有|Hj| 1，j = 1，2，q成立。而Hj -1是特征方程 L) = (1 H1 L) ( 1

26、 H2 L) (1 Hq L) = 0的根，所以MA(q)过程具有可逆性的条件是特征方程 L) = 0的根必须在单位圆之外。（因为x t = L) ut是平稳的，如果变换成 L)-1 xt = ut 后，变得不平稳，显然失去可逆性。）注意，对于无限阶的移动平均过程 xt = i u t -i = ut (1+1 L + 2 L 2 + ) (2.12)其方差为 Var(xt) = i2 Var (ut i) = u2 (2.13)很明显虽然有限阶移动平均过程都是平稳的，但对于无限阶移动平均过程还须另加约束条件才能保证其平稳性。这条件就是x t的方差必须为有限值，即 MA(q) 过程中最常见的是

27、一阶移动平均过程， xt = (1+ 1 L) ut (2.14)其具有可逆性的条件是（1 + 1L) = 0的根（绝对值）应大于1，即 |1/ 1| 1, 或| 1| 1。当|1| 1时，MA(1)过程（2.14）应变换为 ut = (1+ 1L) 1 xt = (1 - 1L + 12L2 - 13L3 + ) xt (2.15)这是一个无限阶的以几何衰减特征为权数的自回归过程。MA(1)过程分析。 图2.3 MA(1)过程（file：5gener1，x5） E(x t) = E(ut) + E( 1 ut - 1) = 0 Var(xt) = Var(ut) + Var( 1 ut 1) = (1+ 12 ) u2 自回归与移动平均过程的关系 一个平稳的AR(p)过程(1 - 1L - 2L2 - - pLp ) xt = ut可以转换为一个无限阶的移动平均过程， xt = (1 - 1L - 2L2 - - pLp )-1 u t = L)-1 ut 2 一个可逆的MA(q)过程 xt = (1 +