那么称为连续型随机向量;并称f(x,y)为=〔X,Y〕的分布密度或称为X和Y的联合分布密度。
分布密度f(x,y)具有下面两个性质:
〔1〕 f(x,y)≥0;
〔2〕
〔2〕二维随机变量的本质
〔3〕联合分布函数
设〔X,Y〕为二维随机变量,对于任意实数x,y,二元函数
称为二维随机向量〔X,Y〕的分布函数,或称为随机变量X和Y的联合分布函数。
分布函数是一个以全平面为其定义域,以事件的概率为函数值的一个实值函数。
分布函数F(x,y)具有以下的根本性质:
〔1〕
〔2〕F〔x,y〕分别对x和y是非减的,即
当x2>x1时,有F〔x2,y〕≥F(x1,y);当y2>y1时,有F(x,y2)≥F(x,y1);
〔3〕F〔x,y〕分别对x和y是右连续的,即
〔4〕
〔5〕对于
.
〔4〕离散型与连续型的关系
〔5〕边缘分布
离散型
X的边缘分布为
;
Y的边缘分布为
。
连续型
X的边缘分布密度为
Y的边缘分布密度为
〔6〕条件分布
离散型
在X=xi的条件下,Y取值的条件分布为
在Y=yj的条件下,X取值的条件分布为
连续型
在Y=y的条件下,X的条件分布密度为
;
在X=x的条件下,Y的条件分布密度为
〔7〕独立性
一般型
F(X,Y)=FX(x)FY(y)
离散型
有零不独立
连续型
f(x,y)=fX(x)fY(y)
直接判断,充要条件:
①可别离变量
②正概率密度区间为矩形
二维正态分布
=0
随机变量的函数
假设X1,X2,…Xm,Xm+1,…Xn相互独立,h,g为连续函数,那么:
h〔X1,X2,…Xm〕和g〔Xm+1,…Xn〕相互独立。
特例:
假设X与Y独立,那么:
h〔X〕和g〔Y〕独立。
例如:
假设X与Y独立,那么:
3X+1和5Y-2独立。
〔8〕二维均匀分布
设随机向量〔X,Y〕的分布密度函数为
其中SD为区域D的面积,那么称〔X,Y〕服从D上的均匀分布,记为〔X,Y〕~U〔D〕。
例如图3.1、图3.2和图3.3。
y
1
D1
O 1 x
图3.1
y
D2
1
1
O 2 x
图3.2
y
D3
d
c
O a b x
图3.3
〔9〕二维正态分布
设随机向量〔X,Y〕的分布密度函数为
其中是5个参数,那么称〔X,Y〕服从二维正态分布,
记为〔X,Y〕~N〔
由边缘密度的计算公式,可以推出二维正态分布的两个边缘分布仍为正态分布,
即X~N〔
但是假设X~N〔,(X,Y)未必是二维正态分布。
〔10〕函数分布
Z=X+Y
根据定义计算:
对于连续型,fZ(z)=
两个独立的正态分布的和仍为正态分布〔〕。
n个相互独立的正态分布的线性组合,仍服从正态分布。
,
Z=max,min(X1,X2,…Xn)
假设相互独立,其分布函数分别为,那么Z=max,min(X1,X2,…Xn)的分布函数为:
分布
设n个随机变量相互独立,且服从标准正态分布,可以证明它们的平方和
的分布密度为
我们称随机变量W服从自由度为n的分布,记为W~,其中
所谓自由度是指独立正态随机变量的个数,它是随机变量分布中的一个重要参数。
分布满足可加性:
设
那么
t分布
设X,Y是两个相互独立的随机变量,且
可以证明函数
的概率密度为
我们称随机变量T服从自由度为n的t分布,记为T~t(n)。
F分布
设,且X与Y独立,可以证明的概率密度函数为
我们称随机变量F服从第一个自由度为n1,第二个自由度为n2的F分布,记为F~f(n1,n2).
第四章 随机变量的数字特征
〔1〕一维随机变量的数字特征
离散型
连续型
期望
期望就是平均值
设X是离散型随机变量,其分布律为P()=pk,k=1,2,…,n,
〔要求绝对收敛〕
设X是连续型随机变量,其概率密度为f(x),
〔要求绝对收敛〕
函数的期望
Y=g(X)
Y=g(X)
方差
D(X)=E[X-E(X)]2,
标准差
,
矩
①对于正整数k,称随机变量X的k次幂的数学期望为X的k阶原点矩,记为vk,即
νk=E(Xk)=,k=1,2,….
②对于正整数k,称随机变量X与E〔X〕差的k次幂的数学期望为X的k阶中心矩,记为,即
=,k=1,2,….
①对于正整数k,称随机变量X的k次幂的数学期望为X的k阶原点矩,记为vk,即
νk=E(Xk)=
k=1,2,….
②对于正整数k,称随机变量X与E〔X〕差的k次幂的数学期望为X的k阶中心矩,记为,即
=
k=1,2,….
切比雪夫不等式
设随机变量X具有数学期望E〔X〕=μ,方差D〔X〕=σ2,那么对于任意正数ε,有以下切比雪夫不等式
切比雪夫不等式给出了在未知X的分布的情况下,对概率
的一种估计,它在理论上有重要意义。
〔2〕期望的性质
〔1〕 E(C)=C
〔2〕 E(CX)=CE(X)
〔3〕 E(X+Y)=E(X)+E(Y),
〔4〕 E(XY)=E(X)E(Y),充分条件:
X和Y独立;
充要条件:
X和Y不相关。
〔3〕方差的性质
〔1〕 D(C)=0;E(C)=C
〔2〕 D(aX)=a2D(X); E(aX)=aE(X)
〔3〕 D(aX+b)=a2D(X); E(aX+b)=aE(X)+b
〔4〕 D(X)=E(X2)-E2(X)
〔5〕 D(X±Y)=D(X)+D(Y),充分条件:
X和Y独立;
充要条件:
X和Y不相关。
D(X±Y)=D(X)+D(Y)±2E[(X-E(X))(Y-E(Y))],无条件成立。
而E(X+Y)=E(X)+E(Y),无条件成立。
〔4〕常见分布的期望和方差
期望
方差
0-1分布
p
二项分布
np
泊松分布
几何分布
超几何分布
均匀分布
指数分布
正态分布
n
2n
t分布
0
(n>2)
〔5〕二维随机变量的数字特征
期望
函数的期望
=
=
方差
协方差
对于随机变量X与Y,称它们的二阶混合中心矩为X与Y的协方差或相关矩,记为,即
与记号相对应,X与Y的方差D〔X〕与D〔Y〕也可分别记为与。
相关系数
对于随机变量X与Y,如果D〔X〕>0,D(Y)>0,那么称
为X与Y的相关系数,记作〔有时可简记为〕。
||≤1,当||=1时,称X与Y完全相关:
完全相关
而当时,称X与Y不相关。
以下五个命题是等价的:
①;
②cov(X,Y)=0;
③E(XY)=E(X)E(Y);
④D(X+Y)=D(X)+D(Y);
⑤D(X-Y)=D(X)+D(Y).
协方差矩阵
混合矩
对于随机变量X与Y,如果有存在,那么称之为X与Y的k+l阶混合原点矩,记为;k+l阶混合中心矩记为:
〔6〕协方差的性质
(i) cov(X,Y)=cov(Y,X);
(ii) cov(aX,bY)=abcov(X,Y);
(iii) cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y);
(iv) cov(X,Y)=E(XY)-E(X)E(Y).
〔7〕独立和不相关
〔i〕 假设随机变量X与Y相互独立,那么;反之不真。
〔ii〕 假设〔X,Y〕~N〔〕,
那么X与Y相互独立的充要条件是X和Y不相关。
第五章 大数定律和中心极限定理
〔1〕大数定律
切比雪夫大数定律
设随机变量X1,X2,…相互独立,均具有有限方差,且被同一常数C所界:
D〔Xi〕
特殊情形:
假设X1,X2,…具有相同的数学期望E〔XI〕=μ,那么上式成为
伯努利大数定律
设μ是n次独立试验中事件A发生的次数,p是事件A在每次试验中发生的概率,那么对于任意的正数ε,有
伯努利大数定律说明,当试验次数n很大时,事件A发生的频率与概率有较大判别的可能性很小,即
这就以严格的数学形式描述了频率的稳定性。
辛钦大数定律
设X1,X2,…,Xn,…是相互独立同分布的随机变量序列,且E〔Xn〕=μ,那么对于任意的正数ε有
〔2〕中心极限定理
列维-林德伯格定理
设随机变量X1,X2,…相互独立,服从同一分布,且具有相同的数学期望和方差:
,那么随机变量
的分布函数Fn(x)对任意的实数x,有
此定理也称为独立同分布的中心极限定理。
棣莫弗-拉普拉斯定理
设随机变量为具有参数n,p(0
〔3〕二项定理
假设当,那么
超几何分布的极限分布为二项分布。
〔4〕泊松定理
假设当,那么
其中k=0,1,2,…,n,…。
二项分布的极限分布为泊松分布。
第六章样本及抽样分布
〔1〕数理统计的根本概念
总体
在数理统计中,常把被考察对象的某一个〔或多个〕指标的全体称为总体〔或母体〕。
我们总是把总体看成一个具有分布的随机变量〔或随机向量〕。
个体
总体中的每一个单元称为样品〔或个体〕。
样本
我们把从总体中抽取的局部样品称为样本。
样本中所含的样品数称为样本容量,一般用n表示。
在一般情况下,总是把样本看成是n个相互独立的且与总体有相同分布的随机变量,这样的样本称为简单随机样本。
在泛指任一次抽取的结果时,表示n个随机变量〔样本〕;在具体的一次抽取之后,表示n个具体的数值〔样本值〕。
我们称之为样本的两重性。
样本函数和统计量
设为总体的一个样本,称
〔〕
为样本函数,其中为一个连续函数。
如果中不包含任何未知参数,那么称〔〕为一个统计量。
常见统计量及其性质
样本均值
样本方差
样本标准差
样本k阶原点矩
样本k阶中心矩
,,
,,
其中,为二阶中心矩。
〔2〕正态总体下的四大分布
正态分布
设为来自正态总体的一个样本,那么样本函数
t分布
设为来自正态总体的一个样本,那么样本函数
其中t(n-1)表示自由度为n-1的t分布。
设为来自正态总体的一个样本,那么样本函数
其中表示自由度为n-1的分布。
F分布
设为来自正态总体的一个样本,而为来自正态总体的一个样本,那么样本函数
其中
表示第一自由度为,第二自由度为的F分布。
〔3〕正态总体下分布的性质
与独立。
第七章 参数估计
〔1〕点估计
矩估计
设总体X的分布中包含有未知数,那么其分布函数可以表成它的k阶原点矩中也包含了未知参数,即。
又设为总体X的n个样本值,其样本的k阶原点矩为
这样,我们按照“当参数等于其估计量时,总体矩等于相应的样本矩〞的原那么建立方程,即有
由上面的m个方程中,解出的m个未知参数即为参数〔〕的矩估计量。
假设为的矩估计,为连续函数,那么为的矩估计。
极大似然估计
当总体X为连