完整版数理统计复习总结西北工业大学.docx
《完整版数理统计复习总结西北工业大学.docx》由会员分享,可在线阅读,更多相关《完整版数理统计复习总结西北工业大学.docx(25页珍藏版)》请在冰豆网上搜索。
完整版数理统计复习总结西北工业大学
1统计量与抽样分布
1.1基本概念:
统计量、样本矩、经验分布函数总体X的样本X1,X2,…,Xn,
样本均值
样本方差s2
修正样本方差
*2
n
样本k阶原点矩
Ak
样本k阶中心矩
Bk
经验分布函数Fn(X)
(Xi
2
X)
n
(Xi
1
Xik,(k
2
X)
1,2,...)
(XiX)k,(k
1,2,...)
)其中Vn(X)表示随机事件{X
显然Vn(x)~B(n,F(x)),则有E[Fn(x)]
1
F(x)D[Fn(x)]-F(X)[1
n
x}出现的次数
F(x)]
补充:
ES;n
1
DX
n
*2
ESn
DX
2
EXDX(EX)
21
n
2
2
Sn
XiX
ni
1
二项分布
B(n,p):
P{X
k}
k
CnP
knk
(1P),(k
EX=npDX=np(1-p)
泊松分布
P():
P{X
k}
k
e
(k0,1,...)
k!
EX
DX
1
均匀分布
U(a,b):
f(x)
-,(a
xb)
ba
a
b
1
2
EX一
DX
(b
a)
2
12
指数分布
f(x)e
x,(x
0)
F(x)1e
2
0,1,...,n)
x,(x0)
EX-DX&
正态分布
N(
2):
f(x)1
J2
exp{
(x
2
2)2}
EX
DX2
E(nS2n)
n
1ES;n12n
D(nS2n)
2(n
1)
DS;
2(n1)4
2
n
当
2EX434EXf
0时,EX
0EX2
DX(1-)2
1.2统计量:
充分统计量、因子分解定理、完备统计量、指数型分布族
n
L()f(Xi;)h(Xi,X2,...,Xn)g(T(Xi,X2,...,Xn);)且h非负T是B的充分统计量
i1
n
f(Xi;)C()eXP{b()T(Xi,X2,...,Xn)}h(Xi,X2,...,Xn)T是B的充分完备统计量
i1
n
f(Xi;)C()exp{d()Ti(Xi,X2,...,Xn)b2()丁2(为,X2,...,Xn)}h(Xi,X2,...,Xn)
i1
(Ti,T2)是(1,2)的充分完备统计量
1.3抽样分布:
2分布,t分布,F分布,分位数,正态总体样本均值和方差的分布,非正
态总体样本均值的分布
22n
补充:
合概率密度
yg(x)的概率密度fy(y)fx(g1(y))[g1(y)]'
B函数:
B(,)0x1(1x)1dxB(
若$是无偏估计,则MSE($,)D$
**
对于的任意一个无偏估计量$,有D$D$,则$是的最小方差无偏估计,记MVUE
相合估计(一致估计):
limEnlimD$n0
nn
2.2点估计量的求法:
矩估计法、最大似然估计法
矩估计法:
①求出总体的k阶原点矩:
akEXkxkdF(x;1,2,...,m)
②解方程组ak
1
n
nk
Xi(k=1,2,.
1
..,m),得$k
$k(X1,X2,...,Xn)即为所求
最大似然估计法:
①写出似然函数
L(
n
)f(Xi;
i1
),求出lnL
及似然方程lnL
i
0i=1,2,...,m
$
②解似然方程得到$i(X1,X2,...,Xn),即最大似然估计$i(X1,X2,...,Xn)i=1,2,...,m
补充:
似然方程无解时,求出的定义域中使得似然函数最大的值,即为最大似然估计
2.3MVUE和有效估计:
最小方差无偏估计、有效估计
T是的充分完备统计量,$是的一个无偏估计
$E($|T)为
的惟一的MVUE
最小方差无偏估计的求解步骤:
求出参数的充分完备统计量T
求出ETg(),则$g1(T)是
的一个无偏估计
或求出一个无偏估计,然后改写成用
T表示的函数
11
综合,E[g(T)T]g(T)是的
MVUE
或者:
求出的矩估计或ML估计,再求效率,为
1则必为MVUE
T是g(
)的一个无偏估计,则满足信息不等式D[T(X)]
1()E
2或I()E
2lnf(X;)
0,f(X;)为样本的联合分布。
最小方差无偏估计
达到罗-克拉姆下界
有效估计量
效率为1
无偏估计$的效率:
e($)
n1()
D$
$是的最大似然估计,且$是的充分统计量
的有效估计
2.4区间估计:
概念、正态总体区间估计(期望、方差、均值差、方差比
态总体参数和区间估计
)及单侧估计、非正
一个总体的情况:
X〜N(
2)
2
已知,求
的置信区间:
X
一〜N(0,1)
'一n
o
未知,求
的置信区间:
决〜t(n1)
*
勺t_(n
、n2
1)
已知,求
2
的置信区间:
n
(Xi)
i1
(n)
(Xi)
i1
n
(Xi)
i1
未知,求
2
的置信区间:
(XiX)2
2(n
n
(Xi
1)g「
2(n1)
X)2
:
(n)
2
12』)
2
n
(Xi
i1
~_r_(n1)
1-
X)2
22
两个总体的情况:
X~N(1,1),Y~N(2,2)
12的区间估计
非正态总体的区间估计:
3统计决策与贝叶斯估计
3.1统计决策的基本概念:
三要素、统计决策函数及风险函数
统计决策函数d(X):
本质上是一个统计量,可用来估计未知参数
风险函数:
R(,d)E[L(,d(X))]是关于的函数
③求f(x,)关于x的边缘密度m(x)f(x,)d
④的后验密度为:
h(|x)f(x,)
m(x)
取L(,d)(d)2时
的贝叶斯估计为:
$E(|x)h(|x)d
R(,d)E(d)2
贝叶斯风险为:
2
贝叶斯风为FUd)E[R(,d)]E(d)2h(|x)d
取L(,d)()(d)2时,贝叶斯估计为:
$E[()凶
E[()|x]
补充:
C()的贝叶斯估计:
取损失函数L(,d)(C()d)2,则贝叶斯估计为
•)E[C()|x]C()h(|x)d
f(x,)d
$f(x,)
$E(|x)h(|x)dd
m(x)f(x,)d
3.3minimax估计
对决策空间中的决策函数di(x),d2(x),…,分别求出在上的最大风险值maxR(,d)
在所有的最大风险值中选取相对最小值,此值对应的决策函数就是最小最大决策函数。
4假设检验
4.1基本概念:
零假设(Ho)与备选假设(H1)、检验规则、两类错误、势函数
零假设通常受到保护,而备选假设是当零假设被拒绝后才能被接受。
检验规则:
构造一个统计量T(X1,X2,...,X3),当H0服从某一分布,当H0不成立时,T的偏大
偏小特征。
据此,构造拒绝域
W
第一类错误
(弃真错误)
:
P{T
W|H。
为真}
第二类错误
(存伪错误)
:
P{T
W|H。
为假}
势函数:
()E(
(X))P{XW}(X)
1,XW
0,XW
当
0时,()为犯第一类错误的概率
4.2正态总体均值与方差的假设检验:
t检验、X2检验、F检验、单边检验
一个总体的情况:
N(
2)
2已知,检验
Ho:
Hi:
X耳〜N(O,i)
2
未知,检验
Ho:
Hi:
s:
V〜t(n
1)
已知,检验
Ho:
Hi:
n
(Xi
ii
2
)2
2(n)
未知,检验
Ho:
Hi:
n
2
(XiX)
ii
(n1)
两个总体的情况:
N(
i2),
N(
2
未知时,检验
Ho:
i
Hi:
nin2(nin22)
*2*2
nii)Sini(n2i)S2n,
〜t(m
n2
2)
2未知时,检验Ho:
2Hi:
i2
*2
SiniF(n
h〜F(ni
S2n2
hl
i)
单边检验:
举例说明,
2已知,检验Ho:
Hi:
构造Ui
~N(o,i),给定显著性水平
,有P{Ui
。
当Ho成
立时Ui
Xdef
3U,因此P{U
o-n
u}P{S
。
故拒绝域
为W{Uu}
4.3非参数假设检验方法:
2
拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验
2
拟合优度检验:
Ho:
PiPio
Hi:
PiPioW山
2(mri)}
科尔莫戈罗夫检验:
H°:
F(x)F°(x)Hi:
F(x)F°(x)实际检验的是Fn(x)F°(x)
W
{lim
n
sup
X
Fn(x)
F°(x)
Dn,}
斯米尔诺夫检验:
H。
F(x)
G(x)
H1
:
F(x)
G(X)实际检验的是Fn(X)Gn(x)
4.4似然比检验
W
{lim
n
sup
X
Fm
(X)
Gn2(x)
Dm』?
,}
明确零假设和备选假设:
H0
0
H
1:
1
I(xx)SUpL(Xi,…,Xn;)
构造似然比:
Ll(xi‘…,xn)
Lo(Xi,…,Xn)SUpL(Xi,…,xn;)
0
拒绝域:
W{(x1,...,xn)}
5方差分析
5.1单因素方差分析:
数学模型、离差平方和分解、显著性检验、参数估计
Xij
(i=1,2,...,m;j=1,2,...,ni)H0:
ni
总离差平方和Qt
(XijX)2
j1
QtQe
Qa
组内离差平方和
Qe
ni_
(XijXi)2
j1
Qe
E产)
nr
组间离差平方和
n(XiX)2
当H0成立时,
E(牛)
r1
构造统计量
QA(r
1)
Qe
(nr)
鱼〜F(r
Qe
1,n
r),当
H0不成立时,有偏大特征
N(
2(nr)
2)且
XiXk
ik,
应用:
若原始数据比较大而且集中,可减去同一数值
XjXj
k再解题
辅助量:
P丄(
ni
mni
Xij)2,Q
1
12
-(Xj)2,R
i1nijj1
ni
Xij2
qaqp,qe
Q,Qtrp
5.2两因素方差分析:
数学模型、
Xij
离差平方和分解、显著性检验
i
数学模型jj〜N(0,2)
各耳相互独立
ij
H01:
H02:
总离差平方和qt
(Xij
j1
X)QtQe
Qb
Qa
ni
组内离差平方和qe
(XijXi?
X?
jXi)2j1
Qe
E((r1)(s
1))
因素B引起的离差平方和
Qb
s
r(X;
j1
X)2
当Ho成立时,
因素A引起的离差平方和
Qa
s(Xi?
X)2
当Ho成立时,
1)
辅助量:
P
构造统计量:
Xij
j1
Qi
Xij
>Qii
Qi
P,Qb
Qii
P,Qe
Qi
Qii
Fb
Qa(r
1)
Qe(r1)(s1)
Qb(s1)
Qe(r
1)(s1)
6回归分析
6.1一元线性回归:
(T2(T*2)
回归模型、
Xij
i1
R
s
X2
ij
j1
Qa
Qe
Qe
未知参数的估计
Yxii
2
回归模型:
i〜N(0,)i=1,2,...,n.
各i相互独立
F(r
1,(r
1)(s
1))
F(s
1,(r
1)(s
1))
(X、
(T
2)、
参数估计量的分布
(3aY0
(,)的估计:
(1
n
(XX)(YY)i1
n
(Xi
i1
X)2
(,)分布:
□〜N(,[丄
n
)
2
(XX)
」L]2)
(Xix)2
i1
n
(丫
ni1
y)2
2
[1
1
(-
n
n_
(xX)2)
i1
*2
[1
n
6.2多元线性回归:
回归模型、
参数估计、
分布
丫Xi
回归模型:
i
2
i〜N(0,In)i=1,2,…,n.
各i相互独立
参数估计:
XtY(XtX)
卩卩(XtX)1xty
7多元分析初步
7.1定义及性质:
定义、性质
X~Np(,)其中为X
的均值向量,
为X的协方差矩阵
Y=CX+b,则丫〜Np(C
b,CCt)
def
0,冈U(X
2
(X)~(p)
7.2参数的估计与假设检验:
工的估计、
正态总体均值向量的假设检验
样本均值向量X
Xi样本离差阵
1
n
(XkX)(XkX)t
k1
最大似然估计卩
最小方差无偏估计
S
(n1)
1
X〜N(,—)
n
YYiT
1
n(Xo)T
1(X
o)〜
2(P)
1)(X
1
o)TS(X
2
0)]〜F(p,np)
2mn
(XY)T1(XY)~2(p)
mn
fpmm(mn)(mpn12)(xy)tsi(xy)