第五章：随机变量的收敛性PPT资料.ppt

第五章：随机变量的收敛性PPT资料.ppt

《第五章：随机变量的收敛性PPT资料.ppt》由会员分享，可在线阅读，更多相关《第五章：随机变量的收敛性PPT资料.ppt（32页珍藏版）》请在冰豆网上搜索。

当样本数量样本数量nn趋向无穷大趋向无穷大时，统计量的变化时，统计量的变化nn大样本理论、极限定理、渐近理论大样本理论、极限定理、渐近理论nn对统计推断很重要对统计推断很重要1收敛性nn主要讨论两种收敛性主要讨论两种收敛性nn依概率收敛依概率收敛nn大数定律：

样本均值依概率收敛于分布的期望大数定律：

样本均值依概率收敛于分布的期望nn依分布收敛依分布收敛nn中心极限定理：

样本均值依分布收敛于正态分布中心极限定理：

样本均值依分布收敛于正态分布2例1：

依概率收敛nn概率的频率解释：

概率的频率解释：

随着观测次数随着观测次数nn的增加，频率将会逐渐稳定的增加，频率将会逐渐稳定到概率到概率nn设在一次观测中事件设在一次观测中事件AA发生的概率发生的概率为为nn如果观测了如果观测了nn次，事件次，事件AA发生了发生了次，则当次，则当nn充分大时充分大时，AA在次观测中在次观测中发生的频率发生的频率逐渐稳定到逐渐稳定到概率概率pp。

nn那么那么nn不对不对，若，若nn则对于则对于，总存在，总存在,当当时，有时，有成立成立nn但若取但若取,由于由于nn即无论即无论NN多大多大,在在NN以后以后,总可能存在总可能存在nn,使使nn所以所以不可能在通常意义下收敛于不可能在通常意义下收敛于pp。

3例2：

依分布收敛nn考虑随机序列考虑随机序列，其中，其中nn直观：

直观：

集中在集中在00处，处，收敛到收敛到00nn但但（Chebyshev不等式）4两种收敛的定义nn5.15.1定义：

令定义：

令为随机变量序列，为随机变量序列，XX为另为另一随机变量，用一随机变量，用FFnn表示表示XXnn的的CDFCDF，用，用FF表示表示XX的的CDFCDFnn11、如果对每个、如果对每个，当，当时，时，nn则则XXnn依概率收敛依概率收敛于于XX，记为，记为。

nn22、如果对所有、如果对所有FF的连续点的连续点tt，有，有nn则则XXnn依分布收敛依分布收敛于于XX，记为，记为。

同教材上5两种收敛的定义nn当极限分布为点分布时，表示为当极限分布为点分布时，表示为nn依概率收敛：

依概率收敛：

nn依分布收敛：

依分布收敛：

6其他收敛nn还有一种收敛：

均方收敛（还有一种收敛：

均方收敛（LL22收敛，收敛，convergetoconvergetoXXininquadraticmeanquadraticmean）nn对证明概率收敛很有用对证明概率收敛很有用nn当极限分布为点分布时，记为当极限分布为点分布时，记为nn对应还有：

对应还有：

LL11收敛（收敛（convergetoconvergetoXXininLL11）7nn依概率收敛依概率收敛nn随机变量序列随机变量序列，当对任意，当对任意，nn则称随机变量序列则称随机变量序列几乎处处依概率收敛几乎处处依概率收敛到到XX（convergealmostsurelytoconvergealmostsurelytoXX），记为，记为：

nn几乎处处收敛：

比依概率收敛更强几乎处处收敛：

比依概率收敛更强其他收敛或或8各种收敛之间的关系nn点分布，点分布，cc为实数为实数L1almostsurely（L2）反过来不成立！

QuadraticmeanprobabilitydistributionPoint-massdistribution9例：

伯努利大数定律nn设在一次观测中事件设在一次观测中事件AA发生的概率发生的概率为为，如果观如果观测了测了nn次，事件次，事件AA发生了发生了次，则当次，则当nn充分大时充分大时，AA在次观在次观测中发生的频率测中发生的频率逐渐稳定到逐渐稳定到概率概率pp。

nn即对于即对于，nn表示表示当当nn充分大时充分大时，事件发生的频率事件发生的频率与其概率与其概率pp存在较存在较大偏差的可能性小。

大偏差的可能性小。

10例：

5.3nn令令nn直观：

集中在集中在00处，处，收敛到收敛到00nn依概率收敛：

（Chebyshev不等式）11例：

续nn依分布收敛：

令依分布收敛：

令FF表示表示00处的点分布函数，处的点分布函数，ZZ表示标准正态表示标准正态分布的随机变量分布的随机变量12收敛的性质13弱大数定律（WLLN）nn独立同分布（独立同分布（IIDIID）的随机变量序列）的随机变量序列，方差方差，则样本均值，则样本均值依概率收依概率收敛敛于期望于期望，即对任意，即对任意nn称称为为的一致估计（一致性）的一致估计（一致性）nn在定理条件下，当样本数目在定理条件下，当样本数目nn无限增加时，随机样本均值无限增加时，随机样本均值将几乎变成一个常量将几乎变成一个常量nn对样本方差呢？

依概率收敛于对样本方差呢？

依概率收敛于方差方差证明：

根据Cheyshev不等式14样本方差依概率收敛于分布的方差15强大数定律（SLLN）nn独立同分布（独立同分布（IIDIID）的随机变量序列）的随机变量序列，方差方差，则样本均值，则样本均值几乎处处收几乎处处收敛敛于期望于期望，即对任意，即对任意16例：

大数定律nn考虑抛硬币的问题，其中正面向上的概率为考虑抛硬币的问题，其中正面向上的概率为pp，令，令表示单表示单次抛掷的输出（次抛掷的输出（00或或11）。

因此）。

因此nn若共抛掷若共抛掷nn次，正面向上的比率为次，正面向上的比率为。

根据大数定律，。

根据大数定律，nn但这并不意味着但这并不意味着在数值上等于在数值上等于ppnn而是表示当而是表示当nn很大时，很大时，的分布紧围绕的分布紧围绕ppnn令令，若要求，若要求，则，则nn至少为多少？

至少为多少？

nn解：

解：

17中心极限定理（CentralLimitTheorem,CLT）nn独立同分布（独立同分布（IIDIID）的随机变量序列）的随机变量序列,，则样本均值，则样本均值近似服从期望为近似服从期望为方差为方差为的正态分布的正态分布，即，即其中其中ZZ为标准正态分布为标准正态分布或或也记为也记为nn无论随机变量无论随机变量XX为为何种类型的分布，只要满足定理条件，何种类型的分布，只要满足定理条件，其样本均值就近似服从正态分布。

其样本均值就近似服从正态分布。

正态分布很重要正态分布很重要nn但近似的程度与原分布有关但近似的程度与原分布有关nn大样本统计推理的理论基础大样本统计推理的理论基础18中心极限定理中心极限定理试验http:

/:

8080/skills/portal/resources/65995/67826/entryFile/swf/zhongxinjixian.htm19例：

中心极限定理nn每个计算机程序的错误的数目为每个计算机程序的错误的数目为XX，nn现有现有125125个程序，用个程序，用表示各个程序中的错误表示各个程序中的错误的数目，求的数目，求的近似值的近似值nn解：

20中心极限定理的应用之一二项概率的近似计算nn设设是是nn重重贝努里试验中事件贝努里试验中事件AA发生的次数，则发生的次数，则，对任意，对任意，有，有nn当当nn很大时，直接计算很困难。

这时很大时，直接计算很困难。

这时如果不大（即如果不大（即pp0.10.1，npnp55）或）或不大，则可用不大，则可用PoissonPoisson分布来近似计算分布来近似计算21中心极限定理的应用之一二项概率的近似计算（续）nn当当pp不太接近于不太接近于00或或11时，可根据时，可根据CLTCLT，用正态分布来近似计用正态分布来近似计算算nn根据根据CLTCLT，德莫弗拉普拉斯定理22中心极限定理的应用之一二项概率的近似计算（续）nn例：

已知红黄两种番茄杂交的第二代结红果的植株与结黄例：

已知红黄两种番茄杂交的第二代结红果的植株与结黄果的植株的比率为果的植株的比率为3:

13:

1，现种植杂交种，现种植杂交种400400株，求结黄果株，求结黄果植株介于植株介于8383到到117117之间的概率。

之间的概率。

nn由题意：

任意一株杂交种或结红果或结黄果，只有两种可由题意：

任意一株杂交种或结红果或结黄果，只有两种可能性，且结黄果的概率能性，且结黄果的概率nn种植杂交种种植杂交种400400株，相当于做了株，相当于做了400400次贝努里试验，记为次贝努里试验，记为400400株杂交种结黄果的株数，则株杂交种结黄果的株数，则nn当当nn=400=400较大时，根据较大时，根据CLTCLT，23中心极限定理的应用之一二项概率的近似计算（续）nn例：

某单位内部有例：

某单位内部有260260架电话分机，每个分机有架电话分机，每个分机有4%4%的时的时间要用外线通话。

可以认为各个电话分机用不同外线是相间要用外线通话。

可以认为各个电话分机用不同外线是相互独立的。

问：

总机需备多少条外线才能以互独立的。

总机需备多少条外线才能以95%95%的把握的把握保证各个分机在使用外线时不必等候？

保证各个分机在使用外线时不必等候？

nn一个分机使用外线的概率一个分机使用外线的概率nn260260个分机中同时使用外线的分机数个分机中同时使用外线的分机数nn设总机确定的最少外线条数为设总机确定的最少外线条数为xx,nn则根据则根据CLTCLT，24中心极限定理nn标准差标准差通常不知道，可用样本标准差代替，中通常不知道，可用样本标准差代替，中心极限定理仍成立，即心极限定理仍成立，即nn其中其中25中心极限定理nn无论随机变量无论随机变量XX为为何种类型的分布，只要满足定理条件，何种类型的分布，只要满足定理条件，其样本均值就近似服从正态分布其样本均值就近似服从正态分布nn但近似的程度与原分布有关但近似的程度与原分布有关nn正态近似的程度：

正态近似的程度：

Berry-EsseenBerry-Esseen定理定理nn若若，则，则nn还有中心极限定理得多变量版本还有中心极限定理得多变量版本26多元分布的中心极限定理nn令令为为IIDIID随机向量，其中随机向量，其中nn协方差矩阵为协方差矩阵为，令样本均值向量为，令样本均值向量为nn则则。

，均值向量为，其中27Delta方法nn随机变量的变换的中心极限定理随机变量的变换的中心极限定理nn假定假定，且，且gg可导，可导，nn则则nn换句话说，换句话说，28nn令令为为IIDIID，nn其均值和方差（有限）分别为其均值和方差（有限）分别为nn则根据则根据CLTCLT：

nn假设假设nn则利用则利用DeltaDelta方法，有方法，有例：

29Delta方法nn多元变量情况多元变量情况nn假设假设为随机向量序列，为随机向量序列，nn且且，nn令令且且nn令令表示表示时时的的值，假设值，假设中的元素非中的元素非00，则，则30例：

nn令令为为IIDIID随机向量，随机向量，nn其均值为其均值为，方差为，方差为nn令令，根据，根据CLTCLT：

nn定义定义，其中，其中nn所以所以则31下节课内容：

nn作业：

作业：

nnChp5Chp5：

第：

第22、44、66、99、1313题题nn模拟方法：

随机