自回归AR模型移动平均MA模型与自回归移动平均ARMA模型的比较分析.docx

1、自回归AR模型移动平均MA模型与自回归移动平均ARMA模型的比较分析自回归AR模型、移动平均MA模型与自回归移动平均ARMA模型的比较分析系统中某一因素变量的时间序列数据没有确定的变化形式，也不能用时间的确定函数描述，但可以用概率统计方法寻求比较合适的随机模型近似反映其变化规律。(自变量不直接含有时间变量,但隐含时间因素)1 自回归AR(p)模型（R：模型的名称 P：模型的参数）（自己影响自己，但可能存在误差，误差即没有考虑到的因素）(1)模型形式（t越小越好，但不能为0：为0表示只受以前Y的历史的影响不受其他因素影响） yt=1yt-1+2yt-2+pyt-p+t 式中假设：yt的变化主要与

2、时间序列的历史数据有关，与其它因素无关； t不同时刻互不相关，t与yt历史序列不相关。式中符号：p模型的阶次，滞后的时间周期，通过实验和参数确定；yt当前预测值，与自身过去观测值yt-1、yt-p是同一序列不同时刻的随机变量，相互间有线性关系，也反映时间滞后关系；yt-1、yt-2、yt-p同一平稳序列过去p个时期的观测值；1、2、p自回归系数，通过计算得出的权数，表达yt依赖于过去的程度，且这种依赖关系恒定不变；t随机干扰误差项，是0均值、常方差2、独立的白噪声序列，通过估计指定的模型获得。(2)识别条件 当kp时，有k=0或k服从渐近正态分布N(0,1/n)且(|k|2/n1/2)的个数4

3、.5%，即平稳时间序列的偏相关系数k为p步截尾，自相关系数rk逐步衰减而不截尾，则序列是AR(p)模型。 实际中，一般AR过程的ACF函数呈单边递减或阻尼振荡，所以用PACF函数判别(从p阶开始的所有偏自相关系数均为0)。(3)平稳条件 一阶：|1|1。二阶：1+21、1-21、|2|q时，有自相关系数rk=0或自相关系数rk服从N(0,1/n(1+2r2i)1/2)且(|rk|2/n1/2(1+2r2i)1/2)的个数4.5%，即平稳时间序列的自相关系数rk为q步截尾，偏相关系数k逐步衰减而不截尾，则序列是MA(q)模型。 实际中，一般MA过程的PACF函数呈单边递减或阻尼振荡，所以用ACF

4、函数判别(从q阶开始的所有自相关系数均为0)。(4)可逆条件 一阶：|1|1。二阶：|2|1、1+21。 当满足可逆条件时，MA(q)模型可以转换为AR(p)模型3自回归移动平均ARMA(p,q)模型(1) 模型形式 yt=1yt-1+2yt-2+pyt-p+t-1t-1-2t-2-pt-p式中符号： p和q是模型的自回归阶数和移动平均阶数；和是不为零的待定系数；t独立的误差项；yt是平稳、正态、零均值的时间序列。(2) 模型含义使用两个多项式的比率近似一个较长的AR多项式，即其中p+q个数比AR(p)模型中阶数p小。前二种模型分别是该种模型的特例。一个ARMA过程可能是AR与MA过程、几个A

5、R过程、AR与ARMA过程的迭加，也可能是测度误差较大的AR过程。(3) 识别条件平稳时间序列的偏相关系数k和自相关系数rk均不截尾，但较快收敛到0，则该时间序列可能是ARMA(p,q)模型。实际问题中，多数要用此模型。因此建模解模的主要工作是求解p、q和、的值，检验t和yt的值。(4) 模型阶数AIC准则：最小信息准则，同时给出ARMA模型阶数和参数的最佳估计，适用于样本数据较少的问题。目的是判断预测目标的发展过程与哪一随机过程最为接近。因为只有当样本量足够大时，样本的自相关函数才非常接近母体的自相关函数。具体运用时，在规定范围内使模型阶数从低到高，分别计算AIC值，最后确定使其值最小的阶数

6、是模型的合适阶数。模型参数最大似然估计时AIC=(n-d)log2+2(p+q+2)模型参数最小二乘估计时AIC=nlog2+(p+q+1)logn式中：n为样本数，2为拟合残差平方和，d、p、q为参数。其中：p、q范围上线是n较小时取n的比例，n较大时取logn的倍数。实际应用中p、q一般不超过2。4自回归综合移动平均ARIMA(p,d,q)模型(1)模型识别 平稳时间序列的偏相关系数k和自相关系数rk均不截尾，且缓慢衰减收敛，则该时间序列可能是ARIMA(p,d,q)模型。(2)模型含义模型形式类似ARMA（p,q）模型，但数据必须经过特殊处理。特别当线性时间序列非平稳时，不能直接利用AR

7、MA（p,q）模型，但可以利用有限阶差分使非平稳时间序列平稳化，实际应用中d一般不超过2。若时间序列存在周期性波动，则可按时间周期进行差分，目的是将随机误差有长久影响的时间序列变成仅有暂时影响的时间序列。即差分处理后新序列符合ARMA(p,q)模型，原序列符合ARIMA(p,d,q)模型。自回归移动平均模型(2011-02-24 01:41:42) 标签： 校园分类： 工作篇 3.3时间序列分析3.3.1时间序列概述1. 基本概念(1)一般概念：系统中某一变量的观测值按时间顺序（时间间隔相同）排列成一个数值序列，展示研究对象在一定时期内的变动过程，从中寻找和分析事物的变化特征、发展趋势和规律。

8、它是系统中某一变量受其它各种因素影响的总结果。(2)研究实质：通过处理预测目标本身的时间序列数据，获得事物随时间过程的演变特性与规律，进而预测事物的未来发展。它不研究事物之间相互依存的因果关系。(3)假设基础：惯性原则。即在一定条件下，被预测事物的过去变化趋势会延续到未来。暗示着历史数据存在着某些信息，利用它们可以解释与预测时间序列的现在和未来。 近大远小原理（时间越近的数据影响力越大）和无季节性、无趋势性、线性、常数方差等。(4)研究意义：许多经济、金融、商业等方面的数据都是时间序列数据。 时间序列的预测和评估技术相对完善，其预测情景相对明确。 尤其关注预测目标可用数据的数量和质量，即时间序

9、列的长度和预测的频率。2. 变动特点(1)趋势性：某个变量随着时间进展或自变量变化，呈现一种比较缓慢而长期的持续上升、下降、停留的同性质变动趋向，但变动幅度可能不等。(2)周期性：某因素由于外部影响随着自然季节的交替出现高峰与低谷的规律。(3)随机性：个别为随机变动，整体呈统计规律。(4)综合性：实际变化情况一般是几种变动的叠加或组合。预测时一般设法过滤除去不规则变动，突出反映趋势性和周期性变动。3. 特征识别认识时间序列所具有的变动特征，以便在系统预测时选择采用不同的方法。(1)随机性：均匀分布、无规则分布，可能符合某统计分布。(用因变量的散点图和直方图及其包含的正态分布检验随机性，大多数服

10、从正态分布。)(2)平稳性：样本序列的自相关函数在某一固定水平线附近摆动，即方差和数学期望稳定为常数。 样本序列的自相关函数只是时间间隔的函数，与时间起点无关。其具有对称性，能反映平稳序列的周期性变化。 特征识别利用自相关函数ACF：k=k/0其中k是yt的k阶自协方差，且0=1、-1k50，滞后周期kn/4，所以此处控制最大滞后数值Maximum Number of Lags设定为12。点击继续Continue返回自相关主对话框后，点击OK运行系统，输出自相关图如图3.19所示。图3.19 从图中看出；样本序列数据的自相关系数在某一固定水平线附近摆动，且按周期性逐渐衰减，所以该时间序列基本是

11、平稳的。(3)数据变换：若时间序列的正态性或平稳性不够好，则需进行数据变换。常用有差分变换(利用transformCreate Time Series)和对数变换(利用TransformCompute)进行。一般需反复变换、比较，直到数据序列的正态性、平稳性等达到相对最佳。2. 模型识别分析时间序列样本，判别模型的形式类型，确定p、d、q的阶数。(1)判别模型形式和阶数 相关图法： 运行自相关图后，出现自相关图（图3.19）和偏自相关图（图3.20）。图3.20 从图中看出：自相关系数和偏相关系数具有相似的衰减特点：衰减快，相邻二个值的相关系数约为0.42，滞后二个周期的值的相关系数接近0.1

12、，滞后三个周期的值的相关系数接近0.03。所以，基本可以确定该时间序列为ARMA（p,q）模型形式，但还不能确定是ARMA（1,1）或是ARMA（2,2）模型。但若前四个自相关系数分别为0.40、0.16、0.064、0.0256，则可以考虑用AR(1) 模型。 另外，值得说明的是：只是ARMA模型需要检验时间序列的平稳性，若该序列的偏自相关函数具有显著性，则可以直接选择使用AR模型。 实际上，具体应用自相关图进行模型选择时，在观察ACF与PACF函数中，应注意的关键问题是：函数值衰减的是否快；是否所有ACF之和为-0.5，即进行了过度差分；是否ACF与PACF的某些滞后项显著和容易解释的峰值

13、等。但是，仅依赖ACF图形进行时间序列的模型识别是比较困难的。 参数估计： 从(m,m-1)开始试验，一般到m=p+q=1/n。实际应用中，往往从(1,1)、(2,2)，逐个计算比较它们的AIC值（或SBC值），取其值最小的确定为模型。(2)建立时间序列新变量 无论是哪种模型形式，时间序列总是受自身历史数据序列变化的影响，因此需将历史数据序列作为一个新的时间序列变量。 按数据转换transform建立时间序列Create Time Series的顺序展开对话框，图3.21。图3.21在功能Function下拉框中选择变量转换的函数，其中：非季节差分Differences: 计算时间序列连续值之

14、间的非季节性差异。季节性差分Seasonal Differences: 计算时间序列跨距间隔恒定值之间的季节性差异，跨距根据定义的周期确定。领先移动平均Prior moving average:计算先前的时间序列数值的平均值。中心移动平均Centered moving average:计算围绕和包括当前值的时间序列数值的平均值。中位数Running medians:计算围绕和包括当前值的时间序列的中位数。累积和Cumulative sum:计算直到包括当前值的时间序列数值的累计总数。滞后顺序Lag: 根据指定的滞后顺序，计算在前观测量的值。领先顺序Lead:根据指定的领先顺序，计算连续观测量的

15、值。平滑Smoothing:以混合数据平滑为基础，计算连续观测量的值。以上各项主要用在生成差分变量、滞后变量、平移变量，并且还要关注差分、滞后、平移的次数，以便在建立模型、进行参数估计时，使方程达到一致。在顺序Order框中填入在前或在后的时间序列数值间隔的数目。在新变量New Variable框中接受左边框移来的源变量。在名称Name框中定义新变量的名称，但必单击改变Change方能成立。单击OK运行系统，在原数据库中出现新变量列。另外，若需产生周期性时间序列的日期型变量，则按数据Data定义日期Define Dates的顺序展开如图3.22所示对话框。图3.22在样本Cases Are栏中

16、选择定义日期变量的时间间隔，在起始日期First Case Is栏中设定日期变量第一个观测量的值，单击OK完成定义。3. 参数估计采用最大似然估计或最小二乘估计等方法估计、参数值，并进行显著性检验。按分析Analyze时间序列Time seriesARIMA模型的顺序展开如图3.23对话框。图3.23 在图3.23中：选择原时间序列变量进入因变量框；根据模型识别结果和建立的新时间变量，选择一个或多个变量进入自变量框；暂时不进行因变量的数据转换；与自变量的选择对应，根据模型识别结果或实验的思路设定p、(d)、q的值；选择模型中包含常数项；分别单击保存和设置按钮，展开如图3.24和3.25对话框。

17、图3.24 图3.24中：在建立变量Create Variable栏选择新建变量结果暂存原数据文件Add to file项，也可选择用新建变量代替原数据文件中计算结果Replace existing项；在设定置信区间百分比%Confidence Intervals下拉框选择95；在预测样本Predict Cases栏选择根据时期给出预测结果的方法。图3.25 图3.25中：在收敛标准Convergence Criteria栏选择迭代次数Maximum iterations、参数变化精度Parameter change、平方和变化精度Sum of squares change，当运算达到其中一个

18、参数的设定，则迭代终止；在估计初始值Initial Values for Estimation栏选择由过程自动选择Automatic或由先前模型提供Apply from previous model，一般默认前者；在预测方法Forecasting Method栏选择无条件Unconditional或有条件最小二乘法Conditional least squares；在输出控制Display栏选择最初和最终参数的迭代摘要Initial and final parameters with iteration summary或详细资料details、或只显示最终参数Final parameters

19、only。 单击OK，系统立即执行，输出信息如下：MODEL: MOD_1Split group number: 1 Series length: 48No missing data.Melards algorithm will be used for estimation.Conclusion of estimation phase.Estimation terminated at iteration number 7 because:Sum of squares decreased by less than .001 percent.FINAL PARAMETERS:Number of r

20、esiduals 48Standard error 1.1996949Log likelihood -75.463915AIC 156.92783SBC 162.54143 Analysis of Variance: DF Adj. Sum of Squares Residual VarianceResiduals 45 65.099923 1.4392678 Variables in the Model: B SEB T-RATIO APPROX. PROB.AR1 .02318739 .31945836 .0725835 .94245925MA1 -.44871554 .28829314

21、-1.5564558 .12660552CONSTANT -.02421308 .25505018 -.0949346 .92478827The following new variables are being created:Name LabelFIT_1 Fit for 样本数据 from ARIMA, MOD_1 CONERR_1 Error for 样本数据 from ARIMA, MOD_1 CONLCL_1 95% LCL for 样本数据 from ARIMA, MOD_1 CONUCL_1 95% UCL for 样本数据 from ARIMA, MOD_1 CONSEP_1

22、 SE of fit for 样本数据 from ARIMA, MOD_1 CON各个输出统计量的意义：常数项：认为是取值恒为1的常数变量，其系数就是自变量为0时因变量的最优预测值，也称为预测基准值。系数：反映自变量对因变量影响的权重。标准误：表明样本数据的可靠性。在(残差)参数近似服从正态分布条件下，系数加减两倍的标准误差近似等于总体参数95%的置信区间。其值越小，置信区间越窄；并且其对于系数的相对值越小，估计结果越精确。t统计量：估计系数与标准误差的比值，检验变量的不相关性。一般给定5%显著水平，则拒绝原假设的0值位于95%的置信区间外，其绝对值必大于2。t概率值：其值越小，则拒绝原假设不

23、相关性的证据越充分。其值接近0.05与t统计量接近2相对应。均值：度量变量的集中度，传递随机变量的位置信息。标准差：度量变量的离散度，传递随机变量的规模信息。平方和：残差平方和是许多统计量的组成部分，孤立考察无太大价值。准则：信息准则AIC和SBC用于模型的选择，越小越好，但受自由度约束较为严重。R2校正：是模型中自变量对因变量变动的解释比例，度量方程预测因变量的成功程度，其是回归标准误差与因变量标准差比较的结果。另一个比较方法是回归标准误差不超过因变量均值的10%则为好的模型。DW统计：用于检验随机误差项是否存在序列相关。LN似然：用于模型比较和假设检验，越大越好。残差图：4. 模型检验检验

24、新建模型的合理性。若检验不通过，则调整(p,q)值，重新估计参数和检验，反复进行直到接受为止。但模型识别、参数估计、检验修正三个过程之间相互作用、相互影响，有时需要交叉进行、反复实验，才能最终确定模型形式。(1)相关图检验残差白噪声：因为白噪声过程是序列无关的，所以白噪声过程的自相关函数和偏自相关函数在自相关图中均为等于0的水平直线。(2)散点图检验残差独立性：以误差值为纵坐标、以预测值为横坐标，观察散点分布的均匀性、随机性。理想预测模型的预测误差一定是不可预测的、无规律的、序列无关的。相应的DW统计量仅适用检验一阶序列。(3)直方图检验残差零均值： 零均值仅检验残差序列无关，若正态分布则检验

25、独立性。(4)概率图检验残差自相关：以显著性水平0.05计算2()概率值，。(5)均方差检验预测的效果：以预测误差的均方差最小为标准，注意预测误差仅与预测周期有关，而与起始时刻无关。5. 模型预测预测系统研究对象的未来某时刻状态。列出预测模型，计算预测值。（一）长期趋势长期趋势分析是统计动态分析的重要内容。其作用为： 观察和研究客观现象发展变化的方向，发展变化的幅度； 观察和研究客观现象在研究期内的主要波动，为进一步研究季节波动和循环波动做准备； 通过以上两方面的研究进一步预测未来发展状态。对客观现象的长期趋势进行分析，统计上主要的方法为图示法和模型法。图示法主要是利用较为简单的移动平均修匀数据后，再绘制散点图来描述事物发展变化的规律。而模型法是利用数学模型模拟动态趋势，用最为的恰当的模型来概括事物的发展动态。1 时间变量回归模型时间变量回归模型是应用回归分析的原理，将时间序列中的时间因素（t）作为自变量（解释变量），所要描述的经济变量作为因变量（被解释变量）而建立的模型。其总体模型为：其中的两个参数a和b的估计值可以根据的各期观测值与各斯的序号t采用最小平方法得到。其参数估计公式为依据上述公式求出之后，即可得到反映长期趋势的回归