最新概率论与数理统计知识点总结超详细版.docx

最新概率论与数理统计知识点总结超详细版.docx

《最新概率论与数理统计知识点总结超详细版.docx》由会员分享，可在线阅读，更多相关《最新概率论与数理统计知识点总结超详细版.docx（16页珍藏版）》请在冰豆网上搜索。

最新概率论与数理统计知识点总结超详细版

《概率论与数理统计》

第一章概率论的基本概念

§2•样本空间、随机事件

1•事件间的关系AB则称事件B包含事件A，指事件A发生必然导致事件B发生

A」B={xx^A或xeB}称为事件A与事件B的和事件，指当且仅当A,B中至少有一个发生时，事件AB发生

AcB={xXWA且XEB}称为事件A与事件B的积事件，指当A,B同时发生时，事件AB发生

A—B={xx乏A且x世B}称为事件A与事件B的差事件，指当且仅当A发生、B不发生时，事件A—B发生

A'B=:

，则称事件A与B是互不相容的，或互斥的，指事件A与事件B不能同时发生，基本事件是两两互不相容的

AB=S且A・B二•，则称事件A与事件B互为逆事件，又称事件

A与事件B互为对立事件

2•运算规则交换律AB=BAA-B=B*A

结合律（AB）一C=A一（B一C）（A-B）C=A（B-C）

分配律A_（B'C）二（A一B厂（A一C）

A一（BC）=（A一B）（A一C）

徳摩根律A=A-BA-B=AB

§3.频率与概率

定义在相同的条件下，进行了n次试验，在这n次试验中，事件A发生的次数nA称为事

件A发生的频数，比值nA：

n称为事件A发生的频率

概率：

设E是随机试验，S是它的样本空间，对于E的每一事件A赋予一个实数，记为P（A）,称为事件的概率

1•概率P（A）满足下列条件：

（1）非负性：

对于每一个事件A0乞P（A）乞1

（2）规范性：

对于必然事件SP（S）=1

nn

（3）可列可加性：

设Ai,A2,…，An是两两互不相容的事件，有P（Ak）八•P（Ak）（n可

k」k二

以取：

：

）

2.概率的一些重要性质:

（i）P（）=0

（ii）若A,A?

…，An是两两互不相容的事件，则有

nn

P（Ak）二二P（Ak）（n可以取：

：

）

k4k4

（iii）设A,B是两个事件若AB，贝UP（B_A）=P（B）_P（A）,P（B）_P（A）

（iv）对于任意事件A,P（A）<1

（v）P（Aj=1—P（A）（逆事件的概率）

（vi）对于任意事件A,B有P（A一B）二P（A）P（B）-P（AB）

§4等可能概型（古典概型）

等可能概型：

试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同

若事件a包含k个基本事件，即AhgjUgziU-Ugk},里

ii,i2,…,ik是1,2,…n中某k个不同的数，则有

/f\kA包含的基本事件数

P（A）=卫「二$中基本事件的总数

§5.条件概率

（1）定义：

设A,B是两个事件，且P（A）0，称P（B|A）二为事件A发生的条

P（A）

件下事件B发生的条件概率

（2）条件概率符合概率定义中的三个条件

1。

非负性：

对于某一事件B，有P（B|A）一0

2。

规范性：

对于必然事件S,P（S|A）=1

3可列可加性：

设B1,B2,…是两两互不相容的事件，则有

□0O0

P（UB』A）=迟P（BiA）

i=1iT

（3）乘法定理设P（A）0，则有P（AB）=P（B）P（A|B）称为乘法公式

n

（4）全概率公式：

P（A）=vP（Bj）P（A|Bj）

1

贝叶斯公式：

P（Bk）P（A|Bk）

P（Bk|A）k—

EP（Bi）P（A|Bi）

i4

§6.独立性

定义设A,B是两事件，如果满足等式P（AB）=P（A）P（B），则称事件A,B相互独立

定理一设A，B是两事件，且P（A）.0,若A，B相互独立，则P（B|A）=PB

定理二若事件A和B相互独立，则下列各对事件也相互独立：

A与B,A与B,A与B

第二章随机变量及其分布

§1随机变量

定义设随机试验的样本空间为S二{e}.X=X（e）是定义在样本空间S上的实值单值函数，称X=X（e）为随机变量

§2离散性随机变量及其分布律

1.离散随机变量：

有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散型随机变量

□0

P（X=Xk）二Pk满足如下两个条件

（1）Pk-0,

（2）VPk=1

kT

2.三种重要的离散型随机变量

（1）分布

设随机变量X只能取0与1两个值，它的分布律是P（X二k）=pk（1-p）1-k,k=0,1（0：

：

：

p<1），则称X服从以P为参数的分布或

两点分布。

（2）伯努利实验、二项分布

设实验E只有两个可能结果：

A与A，则称E为伯努利实验•设P（A）二p（0：

：

：

p■1）,此时P（A）=1-p.将e独立重复的进行n次，则称这一串重复的独立实验为n重伯努利实验。

n■kn.k..

P（X=k）=!

pq,k=0,1,2,…n满足条件

（1）p^0,

（2）送Pk=1注意

Ik.丿心

为n，p的二项分布。

（3）泊松分布

设随机变量X所有可能取的值为0,1,2…，而取各个值的概率为

P（X二k）——，k=0,1,2-,其中，.0是常数，则称X服从参数为■的泊松分布记为k!

X~:

:

（■）

§3随机变量的分布函数

定义设X是一个随机变量，x是任意实数，函数F（x）=P{X込x},:

:

x:

：

:

称为X的分布函数分布函数F（x）二P（X乞x）,具有以下性质

（1）F（x）是一个不减函数

（2）

0EF（x）「，且F（-：

：

）=0,F（：

：

）-1（3）F（x0）=F（x）,即F（x）是右连续的

§4连续性随机变量及其概率密度

连续随机变量：

如果对于随机变量X的分布函数F（x）,存在非负可积函数f（x），使

x

对于任意函数x有F（x）二f（t）dt,则称x为连续性随机变量，其中函数f（x）称为X

4oO

的概率密度函数，简称概率密度

1概率密度f（x）具有以下性质，满足

（1）f（x）一0,

（2）…f（x）dx=1；

-OQ

（3）P（X1兰X兰X2）=Jf（x）dx;（4）若f（x）在点x处连续，则有F'（x）=f（x）x1

2,三种重要的连续型随机变量

（1）均匀分布

均匀分布•记为X~U（a，b）

（2）指数分布

服从参数为V的指数分布。

（3）正态分布

1（x_W

若连续型随机变量X的概率密度为f（x）=e―2坊，-比

其中丄，二（二■0）为常数，则称X服从参数为丄，二的正态分布或高斯分布，记为

2

X~N—）

特别，当-0,；「-1时称随机变量X服从标准正态分布

§5随机变量的函数的分布

定理设随机变量X具有概率密度fx（x）,-：

：

:

:

:

X:

：

：

：

：

又设函数g（x）处处可导且恒有

g（x）o，

r

fX

fY（y）=」

第三章

则Y=g（X）是连续型随机变量，其概率密度为

h（y）]h'（y）^a

0，其他

多维随机变量

§1二维随机变量

定义设E是一个随机试验，它的样本空间是S二{e}.X=X（e）和Y=Y（e）是定义在S上

的随机变量，称X=X（e）为随机变量，由它们构成的一个向量（X，Y）叫做二维随机变量

设（X，Y）是二维随机变量，对于任意实数x，y，二元函数F（x，y）=P{（X^x）・（Y^y）}记成P{X乞x，Y

如果二维随机变量（X，Y）全部可能取到的值是有限对或可列无限多对，则称（X，

Y）是离散型的随机变量。

我们称P（X二Xj,Y二yj）二pj，i，j=1,2,…为二维离散型随机变量（X，Y）的

分布律。

对于二维随机变量（X，丫）的分布函数F（x，y）,如果存在非负可积函数f（x,y）,

yx

使对于任意x,y有Ffx，y）=j^f^f（u，v）dudv,则称（X,Y）是连续性的随机变量，函数ffx，y）称为随机变量fX，Y）的概率密度，或称为随机变量X和Y的联合概率密

度。

§2边缘分布

二维随机变量fX，Y）作为一个整体，具有分布函数Ffx，y）•而X和Y都是随机变量，各自也有分布函数，将他们分别记为FX（x）,FY（y），依次称为二维随机变量fX，Y）

关于X和关于Y的边缘分布函数。

Pi■八Pij二P{X二Xj},i=1,2,…p4=Pj二P{Y二yi},j=1,2,

分别称Pi■Pd为（X,Y）关于X和关于Y的边缘分布律。

fx（x）二f（x,y）dyfY（y）二.f（x,y）dx分别称fx（x）,

l*"^0

fY（y）为X,Y关于X和关于Y的边缘概率密度。

§3条件分布

定义设（X，Y）是二维离散型随机变量，对于固定的j，若P{Y二yj}0,

P{X=Xj,Y=y：

}

则称P{X二人丫二比}-j=,i=1,2,…为在Y二yj条件下

P{Y=yj}p<

P{X=x・Y=y.}Pi.

随机变量X的条件分布律，同样P{Y=yjX=Xj}==巴，j=1,2，…

P{X=x-}Pi.」

为在X=Xi条件下随机变量X的条件分布律。

设二维离散型随机变量（X，Y）的概率密度为f（x,y），（X，Y）关于Y的边缘概

率密度为fY（y），若对于固定的y，fY（y）>0，则称f（x,y）为在Y=y的条件下X的条件

fy（y）

概率密度，记为fX|y（xy）=f（x,y）

1J（y）

§4相互独立的随机变量

定义设F（x,y）及FX（x）,FY（y）分别是二维离散型随机变量（X,Y）的分布函

数及边缘分布函数若对于所有x,y有P{X二x,丫二y}二P{X乞x}P{Y

F{x,y}=Fx（x）FY（y）,则称随机变量X和Y是相互独立的。

对于二维正态随机变量（X,Y）,X和Y相互独立的充要条件是参数卜=0

§5两个随机变量的函数的分布

1,Z=X+Y的分布

设（X,Y）是二维连续型随机变量，它具有概率密度f（X,y）.则Z=X+Y仍为连续性

随机变量，其概率密度为fXY（z）二__f（z-y,y）dy或fX丫⑵二_._f（x,z-x）dx

又若X和Y相互独立，设（X,Y）关于X,Y的边缘密度分别为fX（x）,fY（y）则

qQqQ

fxY（z）二fx（z-y）fY（y）dy和fx丫⑵二fx（x）fY（z-x）dx这两个公式称为

fx,fY的卷积公式

有限个相互独立的正态随机变量的线性组合仍然服从正态分布

Y

2,Z的分布、Z二XY的分布

X

OQ1z

fxY（z）=^；xf（x，x）dx又若X和Y相互独立，设（X，Y）关于X,Y的边缘密度分别

为fx（x）,f—（y）则可化为fYX（z）Ux（x）fY（xz）dx

3M=max{X,Y}及N=min{X,Y}的分布

设X,Y是两个相互独立的随机变量，它们的分布函数分别为Fx（x）,Fy（y）由于

M=max{X,Y}不大于z等价于X和Y都不大于z故有P{M—z}二P{X—乙Y—z}又由于X和Y相互独立，得到M=max{X,Y}的分布函数为Fmax（z）二Fx（z）F—（z）

N二min{X,Y}的分布函数为Fmin⑵=1-1-Fx⑵-F—⑵丨

第四章随机变量的数字特征

§1•数学期望

Q0

定义设离散型随机变量X的分布律为P{X二Xk}二Pk,k=1,2，…若级数7xkPk绝对

心

Q0

收敛，则称级数VXkPk的和为随机变量X的数学期望，记为E（X）,即E（X）二為XkPk

k1i

qQ

设连续型随机变量X的概率密度为f（x），若积分..xf（x）dx绝对收敛，则称积分

xf（x）dx的值为随机变量X的数学期望，记为E（X），即E（X）二「xf（x）dx

J二甘二

定理设Y是随机变量X的函数Y=g（X）（g是连续函数）

Q0

（i）如果X是离散型随机变量，它的分布律为P｛X=xk｝工pk，k=1,2，…若ag（xk）pk

oO

绝对收敛则有E（Y）二E（g（X））=vg（xk）pk

kA

（ii）如果X是连续型随机变量，它的分概率密度为f（x），若"g（x）f（x）dx绝对收敛则

-=O

有E（Y）二E（g（X））='：

g（x）f（x）dx

数学期望的几个重要性质

1设C是常数，则有E（C）二C

2设X是随机变量，C是常数，则有E（CX）二CE（X）

3设X,Y是两个随机变量，则有E（XY^E（X）E（Y）;

4设X,Y是相互独立的随机变量，则有E（XY）二E（X）E（Y）

§2方差

定义设X是一个随机变量，若E｛k-E（X）I2｝存在，则称E｛〔X-E（X）f｝为X的方差，记为D（x）即D（x）=E｛〔X-E（X）F｝，在应用上还引入量,D（x），记为匚（x）,称为标准差或均方差。

222

D（X）=E（X-E（X））2=E（X2）-（EX）2

方差的几个重要性质

1设C是常数，则有D（C）=0,

2

2设X是随机变量，C是常数，则有D（CX）二CD（X）,D（XCHD（X）

3设X,Y是两个随机变量，则有D（XY）二D（X）D（Y）2E｛（X-E（X））（Y-E（Y））｝特

别，若X,Y相互独立，则有D（XY^D（X）D（Y）

4D（X）=0的充要条件是X以概率1取常数E（X），即P｛X二E（X）｝=1

切比雪夫不等式：

设随机变量X具有数学期望E（X）-；「2，则对于任意正数；，不等式

_2

P{X-4兰靳兰与成立

名

§3协方差及相关系数

定义量E{[X_E（X）][Y_E（Y）]}称为随机变量X与Y的协方差为Cov（X,Y），即

Cov（X,Y）=E[（X-E（X））（Y-E（Y））]=E（XY）-E（X）E（Y）

Cov（X，Y）

而rXY称为随机变量X和Y的相关系数

Jd（x）TW

++

对于任意两个随机变量X和Y,D（XY）=D（X）+D（Y）2Cov（X,Y）

协方差具有下述性质

lCov（X,Y）二Cov（Y,X）,Cov（aX,bY）二abCov（X,Y）

2Cov（X「X2,Y^Cov（X1,Y）CovgY）

定理1*<1

2*=1的充要条件是，存在常数a,b使P{Y二a•bx}=1

当％=0时，称X和Y不相关

附：

几种常用的概率分布表

分布

参数

分布律或概率密度

数学期望

方差

两点分布

0£p£1

P{X=k）=pk（1-p）z,k=0,1，

p

P（1-p）

二项式

分布

n兰1

0£p£1

kknk

P（X=k）=Cnp（1-p）,k=0,1，…n，

np

nP（1-p）

泊松分布

丸>0

XkeA

P（X=k）=,k=0,1,2，…

k!

几何分布

0CpV1

P（X=k）=（1—p）k-*p,k=1,2,…

丄

p

1-pp2

均匀分布

acb

f1.

一、，acxcb

f（x）=

i0，其他

a+b

2

（b-a）2

12

指数分布

0>0

f（）,—e^9,x>0

f（x）=<8

[0,其他

Q

62

正态分布

CT>0

1

f（x）=-^e切

CT2

第五章大数定律与中心极限定理

§1.大数定律

弱大数定理（辛欣大数定理）设Xi,X2…是相互独立，服从统一分布的随机变量序列，并

具有数学期望E（Xk）:

1n

=」（k=1,2，…）.作前n个变量的算术平均一'Xk，则对于任意

nk^

名>0，有limP{-：

ZXk—卩c号=1

yn心

定义设¥,丫2,…Yn…是一个随机变量序列，a是一个常数，若对于任意正数；，有

|坠卩｛£-ac号=1，则称序列Y|,Y2「Y「‘依概率收敛于a，记为Yn—pta

§2中心极限定理

2

-（k=1,2，…），则随机变量之和

n

、‘Xk标准化变量，Yn

i±

分布，且具有数学期望和方差E（Xi）二J,D（Xk）

nn

、Xk-ECXk）

kk=i

.D（、Xk）

Ik』

定理二（李雅普诺夫定理）设随机变量Xi,X2，…,Xn…相互独立，它们具有数学期望

n

222

和方差E（XQD（XQ仝k0,k=1,2记Bn八k

k丄

定理三（棣莫弗-拉普拉斯定理）设随机变量n（n=1,2-）服从参数为n,p（0:

:

：

p:

:

：

1）的

项分布，则对任意x，有limP{——n=np—Mx}二X1e^2dt-G（x）

nYp（1—p）N、2兀