非线性时间序列Word格式文档下载.docx
《非线性时间序列Word格式文档下载.docx》由会员分享,可在线阅读,更多相关《非线性时间序列Word格式文档下载.docx(12页珍藏版)》请在冰豆网上搜索。
2.AR模型所确定的马尔可夫链
3.若干例子
第四章.统计建模方法
1.概论
2.线性性检验
3.AR模型参数估计
4.AR模型阶数估计
第五章.实例和展望
1.实例
2.展望
第一章.非线性时间序列浅释
1.从线性到非线性自回归模型
时间序列{xt}是一串随机变量序列,
它有广泛的实际背景,特别是在经济与金融领域中尤其显著.关于它们的从线性与非线性概念,可从以下的例子入手作一浅释的说明.
考查一阶线性自回归模型---LAR
(1):
xt=xt-1+et,t=1,2,…
其中{et}为序列,且Eet=0,Eet=2<
而且et与{xt-1,xt-1,…}独立.反复使用式的递推关系,就可得到
xt=xt-1+et
=et+xt-1
=et+{et-1+xt-2}
=et+et-1+2xt-2
=…
=et+et-1+2et-2
+…+n-1et-n+1+nxt-n.
如果当n时,
nxt-n0,
{et+et-1+2et-2+…+n-1et-n+1}
j=0jet-j.
虽然保证以上的收敛是有条件的,而且要涉及到具体收敛的含义,但是,对以上的简单模型,不难相信,当||<
1时,式成立.于是,当||<
1时,模型LAR
(1)有平稳解,且可表达为
xt=j=0jet-j.
通过上面叙述可见求LAR
(1)模型的解有简便之优点,此其一.还有第二点,容易推广到LAR(p)模型.为此考查如下的p阶线性自回归模型LAR(p):
xt=1xt-1+2xt-2+...+pxt-p+et,
t=1,2,…
而且et与{xt-1,xt-1,…}独立.虽然反复使用式的递推式,仍然可得到式的类似结果,但是,用扩张后的一阶多元AR模型求解时,可显示出与LAR
(1)模型求解的神奇的相似.为此记
Xt=
U=
A=
于是式可写成如下的等价形式:
Xt=AXt-1+etU.
反复使用此式的递推关系,形式上仿照式可得
Xt=AXt-1+etU
=etU+et-1AU+A2xt-2
=
=etU+et-1AU+et-2A2U+…
+et-n+1An-1U+Anxt-n.
如果矩阵A的谱半径(A的特征值的最大模)(A),满足如下条件
(A)<
1,
由上式可猜想到式有如下的解:
Xt=k=0AkUet-k.
其中向量Xt的第一分量xt形成的序列{xt},就是模型式的解.由此不难看出,它有以下表达方式
xt=k=0ket-k.
其中系数k由式中的1,2,...,p确定,细节从略.不过,式给了我们重要启发,即考虑形如
xt=k=0ket-k,k=0k2,
的时间序列类(其中系数k能保证式中的xt有定义).在文献中,这样的序列{xt}就被称为线性时间序列.
虽然以上给出了线性时间序列的定义,以下暂时不讨论什么是非线性时间序列,代之先讨论一阶非线性自回归模型---NLAR
(1),以便与LAR
(1)模型进行比较分析.首先写出NLAR
(1)模型如下
xt=(xt-1)+et,t=1,2,…
而且et与{xt-1,xt-2,…}独立,这些假定与LAR
(1)模型相同,但是,(xt-1)不再是xt-1的线性函数,代之为非线性函数,比如
(xt-1)=xt-1/{a+bxt-12}.
此时虽然仍可反复使用式进行迭代,但是所得结果是
xt=(xt-1)+et
=et+(xt-1)
=et+(et-1+(xt-2))
=et+(et-1+(et-2+(xt-3)))
=…
=et+(et-1+(et-2+…+(xt-n))…).
根据此式,我们既不能轻易判断(xt-1)函数满足怎样的条件时,上式会有极限,也不能猜测其极限有怎样的形式.
对于p阶非线性自回归模型
xt=(xt-1,xt-2,…,xt-p)+et,
t=1,2,…
仿照至式的扩张的方法,我们引入如下记号
(xt-1,xt-2,…,xt-p)
我们得到与式等价的模型
Xt=(Xt-1)+etU,t=1,2,…
但是,我们再也得不出至式的结果,
至此我们已将看出,从线性到非线性自回归模型有实质性差异,要说清楚它们,并不是很简单的事情.从数学角度而言,讨论线性自回归模型可借用泛函分析方法,然而,讨论非线性自回归模型,则要借用马尔可夫链的理论和方法.这也正是本讲座要介绍的主要内容.
2.线性时间序列定义的多样性
现在简单叙述一下非线性时间序列定义的复杂性,它与线性时间序列的定义有关.前一小节中式所显示的线性时间序列,只是一种定义方式.如果改变对系数k的限制条件,就会给出不同的定义.更为重要的是,在近代研究中,将式中的序列{et}放宽为平稳鞅差序列,这在预报理论中很有意义.
无论引用哪一种线性时间序列定义,都对相应的序列的性质有所研究,因为其研究成果可用于有关的线性时间序列模型解的特性研究.事实上,已经有丰富的成果被载入文献史册.
依上所述可知,由于线性时间序列定义的多样性,必然带来非线性时间序列定义的复杂性.这里需要强调指的是,对于非线性时间序列,几乎没有文章研究它们的一般性质,这与线性时间序列情况不同.于是人们要问,我们用哪些工具来研究非线性时间序列模型解的特性呢这正是本次演讲要回答的问题.确切地说,我们将介绍马尔可夫链,并借助于此来讨论非线性自回归模型解的问题.
第二章.非线性时间序列模型
1.概论
从式可见,一个线性时间序列{xt},被{et}的分布和全部系数i所决定.在此有无穷多个自由参数,这对统计不方便,因此人们更关心只依赖有限个自由参数的线性时间序列,这就是线性时间序列的参数模型.其中最常用的如ARMA模型.对于非线性时间序列而言,使用参数模型方法几乎是唯一的选择.由于非线性函数的多样性,带来了非线性时间序列模型的多样性.但是,迄今为止被研究得较多,又有应用价值的非线性时序模型,为数极少,而且主要是针对非线性自回归模型.在介绍此类模型之前,我们先对非线性时序模型的分类作一概述.
通用假定:
{t}为序列,且Et=0,而且t与{xt-1,xt-2,…}独立.
可加噪声模型:
xt=(xt-1,xt-2,…)+t,
其中(…)是自回归函数.当它仅依赖于有限个未知参数时,记此参数向量为,其相应的模型常写成
xt=(xt-1,xt-2,…;
)+t,
否则,称式称为非参数模型.
关于的模型的平稳性,要在下一章讨论,但是,它有类似于线性AR模型的几个简单性质,是重要的而且容易获得的,它们是:
E(xt|xt-1,xt-2,…)
=E{(xt-1,xt-2,…)+t|xt-1,xt-2,…}
=(xt-1,xt-2,…)+E(t|xt-1,xt-2,…)
=(xt-1,xt-2,…)
var{xt|xt-1,xt-2,…}
E{[xt-(xt-1,…)]2|xt-1,xt-2,…}
=E{t2|xt-1,xt-2,…}
=Et2
=2.
P{xt<
x|xt-1,xt-2,…}
=P{(xt-1,…)+t<
x|xt-1,xt-2,…}
=P{t<
x-(xt-1,…)|xt-1,xt-2,…}
=F(x-(xt-1,…)).
其中F是t的分布函数.
带条件异方差的模型:
xt=(xt-1,xt-2,…)
+S(xt-1,xt-2,…)t,
其中(…)和S(…)也有限参数与非参数型之分,这都是不言自明的.另外,式显然不属于可加噪声模型.但是,它比下面的更一般的非可加噪声模型要简单得多.这可通过推广式看出,即有,
=E{(xt-1,xt-2,…)
+S(xt-1,xt-2,…)t|xt-1,xt-2,…}
=(xt-1,xt-2,…)
+S(xt-1,xt-2,…)E{t|xt-1,xt-2,…}
=(xt-1,xt-2,…).’
=E{S2(xt-1,xt-2,…)t2|xt-1,xt-2,…}
=S2(xt-1,xt-2,…)E{t2|xt-1,xt-2,…}
=S2(xt-1,xt-2,…)2.’
=P{(xt-1,…)
+S(xt-1,…)t<
x|xt-1,xt-2,…}
[x-(xt-1,…)]/S(xt-1,…)}
=F([x-(xt-1,…)]/S(xt-1,…)).’
一般非线性时序模型:
t,t-1,…)
t=1,2,…
其中(…)也有参数与非参数型之区别,这也是不言自明的.显然,式既不是可加噪声模型,也不属于式的带条件异方差的模型.虽然,它可能具有条件异方差性质.相反,后两者都是式的特殊类型.虽说式是更广的模型形式,在文献中却很少被研究.只有双线性模型作为它的一种特殊情况,在文献中有些应用和研究结果出现.现写出其模型于后,可供理解其双线性模型的含义
xt=j=1pjxt-j+j=1qjt-j
+i=1Pj=1Qijt-ixt-j.
2.非线性自回归模型
在前一小节中的和式就是非线性自回归模型,而且属于可加噪声模型类.在这一小节里,我们将介绍几种式的常见的模型.
函数后的线性自回归模型:
f(xt)=1f(xt-1)+2f(xt-2)+...+pf(xt-p)+t,
其中f(.)是一元函数,它有已知和未知的不同情况,不过总考虑单调增函数的情况,=(1,2,…,p)是未知参数.在实际应用中,{xt}是可获得量测的序列.
当f(.)是已知函数时,{f(xt)}也是可获得量测的序列,于是只需考虑yt=f(xt)所满足的线性AR模型
yt=1yt-1+2yt-2+...+pyt-p+t,
此时可不涉及非线性自回归模型概念.在宏观计量经济分析中,常常对原始数据先取对数后,再作线性自回归模型统计分析,就属于此种情况.这种先取对数的方法,不仅简单,而且有经济背景的合理解释,它反应了经济增长幅度的量化规律.虽然在统计学中还有更多的变换可使用,比如Box-Cox变换,但是,由于缺少经济背景的合理解释,很少被使用.由此看来,当f(.)有实际背景依据时,可以考虑使用式的模型.
当f(.)是未知函数时,{f(xt)}不是可量测的序列,于是只能考虑模型.注意f(.)是单调函数,可记它的逆变换函数为f-1(.),于是由模型可得
xt=f-1(1f(xt-1)+2f(xt-2)+...
+pf(xt-p)+t),
t=1,2,…’
此式属于式的特殊情况,此类模型很少被使用.取而代之是考虑如下的模型
xt=1f(xt-1)+2f(xt-2)+...+pf(xt-p)+t,
其中f(.)是一元函数,也有已知和未知之分,可不限于单调增函数.此式属于式的特殊情况,有一定的使用价值.
当式中的f(.)函数是已知时,此式还有更进一步的推广模型,
xt=1f1(xt-1,…,xt-s)+2f2(xt-1,…,xt-s)
+...+pfp(xt-1,…,xt-s)+t,
其中fk(…)(k=1,2,…,p)是已知的s元函数.
例如,以后将要多次提到的如下的模型:
xt=1I(xt-1<
0)xt-1+2I(xt-10)xt-1+t,
其中I(.)是示性函数.此模型是分段线性的,是著名的TAR模型的特殊情况.为了有助于理解它,我们写出它的分段形式:
xt=
请注意,和式具有一个共同的特征,就是未知参数都以线性形式出现在模型中.这一特点在统计建模时带来极大的方便.此类模型便于实际应用.但是,对于{xt}而言不具有线性特性,所以,讨论它们的平稳解的问题,讨论它们的建模理论依据问题,都需要借助于马尔可夫链的工具.
已知非线性自回归函数的模型:
xt=(xt-1,xt-2,…,xt-p;
其中(…)是p元已知函数,但是其中含有未知参数=(1,2,…,p).一般说来,在一定范围内取值.
例如,
t=1,2,…
其中=(1,2)是未知参数,它们的取值范围是:
-<
<
0<
.
这里需要指出,使用上式的模型,不仅要借助于马尔可夫链的工具,而且在统计建模时遇到两种麻烦,其一是参数估计的计算麻烦,二是确定(…)函数的麻烦.一般来说,只有根据应用背景能确定(…)函数时,才会考虑使用此类模型.
广义线性模型(神经网络模型):
xt=(1xt-1+2xt-2+…+pxt-p)+t,
其中(.)是一元已知或未知函数,参数=(1,2,…,p)总是未知的.为保证模型的唯一确定性,或者说是可识别性,要对作些约定,其一,||||=1,其二,=(1,2,…,p)中第一个非零分量为正的.不难理解,若不加这两条约定,模型不能被唯一确定.
当(.)是一元已知函数时,与神经网络模型相通.
当(.)是一元未知函数时,与回归模型中的PP方法相通.
除了以上两类模型外,还有式的非参数自回归模型,以及从统计学中引入的半参数自回归模型.对它们的统计建模更困难.本讲座主旨在于介绍如何用马尔可夫链的工具,描述非线性自回归模型的基本特性问题,对这类模型不再仔细讨论.