多元线性回归模型的各种检验方法Word格式文档下载.docx
《多元线性回归模型的各种检验方法Word格式文档下载.docx》由会员分享,可在线阅读,更多相关《多元线性回归模型的各种检验方法Word格式文档下载.docx(11页珍藏版)》请在冰豆网上搜索。
j
0.1即(3)在给定的显著水平下(不能大于
以下的前提下做90%,也即我们不能在置信度小于10%
t;
)t(分布的临界值双结论),查出尾1k?
n?
?
2/
t?
t的情况,检验结论为拒绝4)如果出现(?
HH。
;
反之,无法拒绝00
jj?
t必须服从已检验方法的关键是统计量t?
(Se)?
jt分布函数。
什么情况或条件下才会这样呢?
这需知的
要我们建立的模型满足如下的条件(或假定)
n次观测的随机)随机抽样性。
我们有一个含(1
LL,X,X,nX,:
1,2,,Yi?
样。
这保证了误i1ii2ik
u差
2.
自身的随机性,即无自相关性,
Cov(u?
E(u))(u?
E(u))?
0。
jiji
(2)条件期望值为0。
给定解释变量的任何值,误
差
u的期望值为零。
即有
L,X)?
X,0E(uX
k21
L,,XX,X这也保证了误差独立于解释变量,即21u
E(u)?
0模型中的解释变量是外生性的,也使得。
(3)不存在完全共线性。
在样本因而在总体中,
没有一个解释变量是常数,解释变量之间也不存在严
格的线性关系。
2常数?
X)?
X,X,L,Var(u。
同方差性。
(4)?
k12
u2)0,u~Normal(?
。
满足5)正态性。
误差(
个前提下,才可以推导出:
在以上5
~N[,Var()]?
jjj
)~NSd/((0,1)()?
jjj
(tSe()~/)?
1?
njjj?
k
3.
t检验方法所要求的条件是极为苛刻的。
由此可见,
对参数的一个线性组合的假设的检验二、
无:
比如需要检验的虚拟假设为?
H?
jj02121?
。
法直接检验。
设立新参数211
H代入原模型将:
原虚拟假设等价于。
0?
02111
后得出新模型:
LLu?
X?
XXY?
(?
)2(k20k1211
t:
2)中再利用检验方法检验虚拟假设在模型(H0
1
我们甚至还可以检验这样一个更一般的假设
LλβCH:
k1k0001
统计量为t
λβλβ?
~t(n?
k?
1)
T12T?
λSeX)λ(X
三、对参数多个线性约束的假设检验:
F检验
4.
需要检验的虚拟假设为H0L0?
,?
0,?
。
k?
2k?
k?
q1?
q
q个排除性约束。
模型该假设对模型
(1)施加了
)在该约束下转变为如下的新模型:
(1
Y?
q1k1?
k20?
2q
)3(
)3)称为不受约束(ur)的模型,而模型(模型(1
)13)也称为模型(称为受约束(r)的模型。
模型(
方法估计模型OLS的嵌套模型,或子模型。
分别用
)后,可以计算出如下的统计量:
21)和((
RSSRSS?
urrF?
q/)?
1n?
k/(RSSur
关键在于,不需要满足t检验所需要的假定(3),统
F~F。
利用已知的就满足:
F分布函数,计量F1?
q,n
我们就可以拒绝或接受虚拟假设:
H0
检t检验比F了。
所以,一般来讲,?
L0,?
0,?
k2?
kq1q验更先使用,用的更普遍,可信度更高。
利用关系式
5.
2统计量还可以写成:
,F,R1?
)RSS?
TSS()?
R?
RSSTSS(1urrur2r
R2
ur?
F
2?
k(1?
R)/(n
ur)1检验四、对回归模型整体显著性的检验:
F
L需要检验的虚拟假设为:
相0?
0,,?
H?
k210
q。
嵌套模型变为当于前一个检验问题的特例,
uY?
R。
0?
22统计量变,。
F,0TSS?
RSSRR?
2rurr
为:
2kR/
F2)1?
R)/(n?
k(1
kESS/?
)RSS1?
k?
/(n
检验一般的线性约束五、
需要检验的虚拟假设比如为H0
1,,L,?
。
受约束模型变为:
k21
6.
u?
10
再变形为:
F统计量只可用:
01
/qRSS?
RSSrru?
)?
1RSS/(n?
kru其
中?
)X?
Y)?
(X?
RSSTSS?
)Y(?
(YX)?
(Y。
1i1ii1iXr?
Y1122,
检验两个数据集的回归参数是否相等:
皱(至庄)六、
检验
虚拟假定是总体回归系数的真值相等。
步骤如下:
基于两组样本数据,进行相同设定的回归,)(1
将二
RSS。
和者的RSS分别记为RSS12
将两组样本数据合并,基于合并的样本数据,2)(
RSS记为进行相同设定的回归,将回归的RSST
统计量:
(计算下面的3)F
7.
(RSS?
RSS?
RSS)/(k?
1)2T1F?
2)2k?
RSS)/(n?
R(SS?
2121
,拒绝原假定如果(4)F?
F?
非正态假定下多个线性约束的大样本假设检验:
七、
(拉格郎日乘数)检验LM
u满足正态性假定。
)中的F检验方法需要模型(1
在不满足正态性假定时,在大样本条件下,可以使用
LM统计量。
虚拟假设依然是H0
L?
统计量仅要求对受约束模型LM。
kq?
1k?
q2
的估计。
具体步骤如下:
Y对施加限制后的解释变量进行回归,)将(ⅰ
~u。
即我们要进行了如下的回归估计并保留残差~~~~~uLL?
qk011k22?
q?
~u对所有解释变量进行辅助回归,即进行)将ⅱ(
如下回归估计
8.
~LL?
ukk10212
2R。
平方,记为R-并得到u
2LM?
nR。
)计算统计量(ⅲu
c与分布中适当的临界值比较。
如(ⅳ)将?
LM2q
果,就拒绝虚拟假设;
否则,就不能拒绝虚拟HcLM?
0
H假设。
0
八、对模型函数形式误设问题的一般检验:
RESET
如果一个多元回归模型没有正确地解释被解释变
量与所观察到的解释变量之间的关系,那它就存在函
数形式误设的问题。
误设可以表现为两种形式:
模型
中遗漏了对被解释变量有系统性影响的解释变量;
错
误地设定了一个模型的函数形式。
在侦察一般的函数
形式误设方面,拉姆齐(Ramsey,1969)的回归设定
误差检验(regressionspecilficationerrortest,
RESET)是一种常用的方法。
RESET背后的思想相当简
单。
如果原模型
(1)满足经典假定(3),那么在模型
9.
(1)中添加解释变量的非线性关系应该是不显著的。
尽管这样做通常能侦察出函数形式误设,但如果原模
型中有许多解释变量,它又有使用掉大量自由度的缺
陷。
另外,非线性关系的形式也是多种多样的。
则是在模型
(1)中添加模型
(1)的OLS拟合值的多
项式,以侦察函数形式误设的一般形式。
为了实施RESET,我们必须决定在一个扩大的回归
模型中包括多少个拟合值的函数。
虽然对这个问题没
有正确的答案,但在大多数应用研究中,都表明平方
项和三次项很有用。
令表示从模型
(1)所得到的OLS?
Y
估计值。
考虑扩大的模型
(4)?
23?
X?
Y?
XY?
X?
LLY?
01122kk12这个模型看起来有些奇怪,因为原估计的拟合值的函
数现在却出作为解释变量出现。
实际上,我们对模型
)的参数估计并不感兴趣,我们只是利用这个模型(4
)是否遗漏掉了重要的非线性关系。
记1来检验模型(
的非线性函数。
都只是和住,?
23XYYj这时,。
)对模型(4,我们检验虚拟假设00?
:
H,?
012
10.
模型(4)是无约束模型,模型
(1)是受约束模型。
计算F统计量。
需要查分布表。
拒绝,模型Hk?
3F,n?
20)存在误设,否则,不存在误设。
1(
九、利用非嵌套模型检验函数形式误设
寻求对函数形式误设的其他类型(比如,试图决定某
一解释变量究竟应以水平值形式还是对数形式出现)
作出检验,需要离开经典假设检验的辖域。
有可能要
相对模型
LL?
log(XX)?
)?
log()log(?
k12120k
(5)
检验模型
(1),或者把两个模型反过来。
然而,它们
是非嵌套的,所以我们不能仅使用标准的F检验。
有
两种不同的方法。
一种方法由MizonandRichard(1986)提出,构造
一个综合模型,将每个模型作为一个特殊情形而包含
其中,然后检验导致每个模型的约束。
对于模型
(1)
和模型(5)而言,综合模型就是
11.
(6)
log(X)?
k?
1k10k?
1k1kk
)的检验。
也1可以先检验,作为对模型(L0,,?
0H:
0k?
1k?
k)的检验。
,作为对模型(可以通过对检验5L0?
H:
01k
另一种方法由DavisonandMacKinnon(1981)提出。
认为,如果模型
(1)是正确的,那么从模型(5)得
到的拟合值在模型
(1)中应该是不显著的。
因此,为
了检验模型
(1)的正确性,首先用OLS估计模型
(5)以得到拟合值,并记为。
在新模型?
Y
(7)?
YL?
LY01122kk1。
检验拒绝或接受假定的中计算t统计量,利用t?
0H:
01)的证据。
类似的,统计量就是拒绝模型(1显著的t
为了检验模型(5)的正确性,首先用OLS估计模型
(1)以得到拟合值,并记为。
(8)?
Y)?
LL?
log(XX)Y?
log(X?
log()?
01122kk1。
的中计算t统计量,利用t检验拒绝或接受假定?
YH?
01
以上两种检验方法可以用于检验任意两个具有相同的
12.
被解释变量的非嵌套模型。
非嵌套检验存在一些问题。
首先,不一定会出现一个
明显好的模型。
两个模型可能都被拒绝,也可能没有
一个被拒绝。
在后一种情形中,我们可以使用调整的
R-平方进行选择。
如果两个模型都被拒绝,则有更多
的工作要做。
不过,重要的是知道使用这种或那种函
数形式的后果,如果关键性解释变量对被解释变量的
影响没有多大差异,那么使用那个模型实际上并不要
紧。
第二个问题是,比如说使用DavisonandMacKinnon
检验拒绝了模型(5),这并不意味着模型
(1)就是正
确的模型。
模型(5)可能会因为多种误设的函数形式
而被拒绝。
一个更为可能的问题是,在解释变量不同的模型之间
进行比较时,如何实施非嵌套检验。
一个典型的情况
是,一个解释变量是,一个解释变量是。
使用调整)log(YY
的R-平方进行比较,需要小心从事。
13