协方差及相关系数及其性质.ppt

1、一、基本概念一、基本概念二、二、n 维正态维正态变量的性质变量的性质4.3协方差与相关系数对于二维随机变量对于二维随机变量(X,Y):已知联合分布已知联合分布边缘分布边缘分布 对二维随机变量对二维随机变量,除每个随机变量各自的除每个随机变量各自的概率特性外概率特性外,相互之间还有某种联系相互之间还有某种联系,问题是问题是用一个怎样的数去反映这种联系用一个怎样的数去反映这种联系.问题的提出问题的提出 协方差协方差反映了随机变量反映了随机变量 X,YX,Y 之间的某种关系之间的某种关系1.定义定义一一.协方差和相关系数的定义协方差和相关系数的定义若若D(X)0,D(Y)0,称称若若称称 X,YX,

2、Y 不相关不相关.无量纲 的量2.说明说明 3.协方差的计算公式协方差的计算公式 法法1.1.若若 (X,Y)(X,Y)为离散型，已知为离散型，已知p pijij 若若 (X,Y)(X,Y)为连续型为连续型，已知，已知f(x,yf(x,y)法2.4.性质性质 求求cov(X,Y)XY 1 0 p qX P 1 0 p qY P 例例1 1 已知已知 X,YX,Y 的联合分布为的联合分布为XYpij 1 010 p 0 0 q0 p 1p+q=1解解 1 0 p qX Y P 解解例例2 2 设设(X,Y)，求，求 XY 结论结论即即X,YX,Y 相互独立相互独立X,YX,Y 不相关不相关解解例

3、例31.问题的提出问题的提出二、相关系数的意义二、相关系数的意义解得解得2.相关系数的意义相关系数的意义(1)(1)不相关与相互独立的关系不相关与相互独立的关系3.注意注意相互独立相互独立不相关不相关(2)(2)不相关的充要条件不相关的充要条件4.相关系数的性质相关系数的性质(1)(1)证：证：由柯西一许瓦兹不等式知由柯西一许瓦兹不等式知 所以所以|XYXY|1。意义意义|XY|=1当且仅当当且仅当Y Y跟跟X X几乎有线性关系。这说几乎有线性关系。这说明了相关系数的概率意义。明了相关系数的概率意义。XY是刻画是刻画X X，Y Y之间线性相关程度之间线性相关程度。(2)(2)证：证：由柯西一许

4、瓦兹不等式中等号成立（由柯西一许瓦兹不等式中等号成立（）充要条件知充要条件知 写为矩阵的形式：称为随机变量(X1,X2)的协方差矩阵。(1)二维随机向量的协方差矩阵 二维随机变量(X1,X2)有四个二阶中心矩(设他们存在)，分别记为 三三.协方差矩阵协方差矩阵(2)推广定义定义 设X=(X1,X2,Xn)为n维随机向量,并记i=E(Xi)，则称=(1,2,n)为向量X的数学期望或均值，称矩阵 为向量X的协方差矩阵。例例6 6:设(X,Y)N(1,2,12,22,),求向量(X，Y)的均值与协方差矩阵。解:E(X)=1，E(Y)=2，所以(X，Y)的均值为=(1,2)(X，Y)协方差矩阵为 3.

5、协方差矩阵的性质(1)协方差矩阵对角线上的元素Cii为Xi的方差即Cii=D(Xi)i=1，2，n；(2)协方差矩阵C为对称矩阵,即Cij=Cji,i，j=1，2，n；(3)C为非负定矩阵,即对于任意实向量t=(t1，t2，tn),有tCt0；证：性质(1)，(2)显然，只证(3)4多维正态分布及其性质 二维正态随机向量X=(X1，X2)的概率密度为 引入下面记号 经运算可得 于是X=(X1，X2)的概率密度可写成 上式推广至n维正态分布的情况，于是有以下定义：(1)定义 若n维随机向量X=(X1，Xn)的概率密度为 其中X=(X1，Xn),=(1，2，n)为n维实向量，C为n阶正定对称矩阵，

6、则称向量X=(X1，Xn)服从n维正态分布，记为XN(,C).对于n维正态分布XN(,C)，X的期望为，X的协方差矩阵为C。(2)(2)性质性质 （P179P179页）页）n维正态分布具有下述性质：1)n维随机向量(X1，Xn)服从n维正态分布充要条件是X1，Xn的任意线性组合l1X1+l2X2+lnXn(l1,l2,ln是不全为0的数)服从一维正态分布。2)若X=(X1,Xn)N(,C)，设Y=(Y1,Y2,Ym)=AX,即Yi i为Xj(j=1，2，n)的线性函数,i i=1，2，m，则YN(A，ACA)，其中A为m行n列且秩为m的矩阵。3)设(X1，Xn)服从n维正态分布，则“X1，Xn

7、相互独立”与“X1，Xn两两不相关”是等价的。例例7 7:设XN（0，1），YN(0，1),若X与Y相互独立，求E(|X-Y|)。于是 解:令Z=X-Y，问题化为求E(|Z|)，为求E(|Z|),我们先求出Z的概率密度.由于(X，Y)服从二维正态分布，由性质1)知Z服从一维正态分布，而E(Z)=E(X-Y)=E(X)-E(Y)=0，D(Z)=D(X-Y)=D(X)+D(Y)=2，故ZN（0，2），即Z的概率密度为 例8:设 ,问X与Z是 否独立?解:由于 由性质2)知(X，Z)服从二维正态分布，再由性质3)知判断X与Z是否独立等价于判断X与Z是否不相关。D(X)=32，D(Y)=42，XY=-1/2,于是XZ=0所以X与Z不相关，由此可得X与Z相互独立。小结小结：1.结论1：X与Y相互独立 XY=0 X与Y不相关；反之，XY=0 不能推出X与Y相互独立。结论2：对任意X与Y，以下结论等价XY=0 Cov(X，Y)=0 E(XY)=E(X)E(Y)D(X+Y)=D(X)+D(Y)。结论3：若(X，Y)N(1,2,12,22,)，则X与Y相互独立 XY=0 X与Y不相关。2.由于正态分布在概率论中有其特殊地位，因此 对多维正态分布的性质及其应用要较好地掌握。