应用随机过程.ppt

1、应用随机过程 Applied stochastic processes 衣 娜 Tel：18254121360 Email：,1,定义,一般来说，把一组(族)随机变量定义为随机过程。随机过程是概率论的继续和发展，被认为是概率论的动力学部分。概率论研究对象为：随机变量；随机过程研究对象为：随时间演变的随机现象。,XX(t),2,起源与发展,随机过程是随机数学的一个重要分支，产生于20世纪初对物理学的研究，如吉布斯、波尔兹曼、庞加莱等人对统计力学的研究。1907年前后，马尔科夫(Markov)研究了一系列有特定相依性的随机变量，后人称之为Markov链；1923年维纳给出布朗(Brown)运动的数

2、学定义，这一过程成为一个重要的研究课题。一般理论的研究通常认为开始于20世纪30年代：1931年，柯尔莫哥洛夫(Kolmogorov)概率论的解析方法，1934年辛钦(Khinchine)发表了平稳过程的相关理论，这两篇著作奠定了马尔科夫过程与平稳过程的理论基础。1953年，杜布(Doob)出版了名著随机过程论，系统且严格地叙述了随机过程基本理论。,3,应用与研究方法,天气预报、统计物理、天体物理、运筹决策、经济数学、安全科学、人口理论、可靠性及计算机科学、金融等很多领域都要经常用到随机过程的理论来建立数学模型。主要研究方法可以分为两大类：一类是概率方法，其中用到轨道性质和随机微分方程等；另一

3、类是分析的方法，其中用到测度论、微分方程、半群理论、希尔伯特空间等。,4,学习内容,第一章 预备知识第二章 随机过程的基本概念和基本类型第三章 Poisson过程第五章 Markov链第七章 Brown运动,5,第1章 预备知识,1.1 概率空间1.2 随机变量和分布函数1.3 数字特征、矩母函数与特征函数1.4 条件概率、条件期望和独立性1.5 收敛性,6,1.可以在相同的条件下重复地进行;,2.每次试验的可能结果不止一个,并且能事先明确试验的所有可能结果;,3.进行一次试验之前不能确定哪一个结果会出现.,在概率论中,把具有以下三个特征的试验称为随机试验.,1.1 概率空间,一、随机试验：,

4、7,二、样本空间：,随机试验 E 的所有可能结果组成的集合称为 E 的样本空间,记为.,样本空间的元素,即试验E 的每一个结果,称为样本点.,例 从一批产品中,依次任选三件,记录出现正品与次品的情况.,8,三、s-代数(事件域),9,首先，应该包括样本空间和空集；其次应该保证事件经过并、交、差、补各种运算后仍然是事件，即其对事件的运算有封闭性。（交的运算可以通过并与对立来实现；差的运算可通过对立与交来实现）,s-代数从直观上讲就是一个样本空间中某些子集组成的集合类，s-代数中应该有哪些元素？,常见s-代数：,10,设W=R.由所有半无限区间 生成s-代数（即包括集族 的最小s-代数）称为R上的

5、Borel s-代数，记为B(R),其中的元素称为Borel集合。类似的可定义Rn上的Borel s-代数，记为B(Rn)。,四、Borel s-代数,11,五、事件概率,12,六、性质 1、2、；3、；4、；5、6、,P(AB)+P(AB)=P(A)+P(B)；,13,七、上极限与下极限,上极限中的元素属于无限个集合，但同时也有可能“不”属于“无限个”集合，而下极限中的元素属于无限个集合，同时只“不”属于“有限个”集合。,上极限：下极限：,14,例：S1=S3=S5=.=0,1；S2=S4=S6=.=0，,注：一个集合序列的上极限是它们的可数并，也就是包含这些集合的最小集合。一个集合序列的下

6、极限是这些集合的可数交，也就是包含在所有集合里的最大集合。,上极限=0,1，下极限=0。,15,1.2 随机变量和分布函数,一、分布函数,16,基本性质：(1)F(x)单调不降；(2)有界：0F(x)1，F()=0，F(+)=1；(3)右连续.(4),17,分布函数,分布列,离散型随机变量分布列与分布函数的关系,连续型随机变量密度函数与分布函数的关系,18,二、联合分布与边际分布,19,联合分布唯一确定边际密度,反之不成立.此例两个密度函数显然不同，密度函数非零区域相同.边际密度如下:,20,X边际密度:利用密度函数的轮换对称性,可得Y边际密度也相同均为1/2+y.,21,三、常见分布,22,

7、23,24,一、数学期望,1.3.1 数字特征,1.3 数字特征、矩母函数与特征函数,连续型随机变量,离散型随机变量,二、随机变量函数的期望,25,三、矩,1、普通k阶矩,2、k阶绝对矩,3、k阶中心矩,物理上，一阶矩是重心，二阶矩是转动惯量;,二阶中心矩为方差，方差表示稳定性。,注:,26,四、n维随机向量,是n维随机向量，分布函数为，若 为n维Borel函数，则：,27,五、协方差与相关系数,随机变量X与Y的协方差为：,随机变量X与Y的相关系数为：,28,六、性质,相互独立,29,1.3.2 矩母函数,设随机变量X的分布函数为F(x)，则X的矩母函数定义为：,X是连续型的；X是离散型的.,

8、当矩母函数存在时，它唯一地决定分布.,泊松分布：正态分布：,30,例：设X与Y是独立的正态随机变量，且 求X+Y的分布.,31,矩母函数可用来推导随机变量的各阶矩,矩母函数与各阶矩关系：,令t=0,得到,32,1.3.3 特征函数,33,特征函数与分布函数一一对应；设Y=aX+b，Y的特征函数是：两个相互统计独立的随机变量和的特征函数等于各个随机变量特征函数的积；特征函数与随机变量的数字特征的关系：,特征函数的性质：,34,35,36,1.4 条件概率、条件期望和独立性,1.4.1 条件概率,条件概率：设E为随机试验，为其样本空间，A、B为任意两个事件，若P(B)0,则事件A关于事件B的条件概

9、率为：,全概率公式与贝叶斯公式,37,条件密度函数,如果有联合概率密度函数f(x,y)，给定Y=y时X的条件概率密度函数定义为：,38,1.4.2 条件期望,给定Y=y时，X的条件分布定义为：,给定Y=y时，X的条件期望定义为：,39,条件期望的性质,E(X|Y)表示随机变量Y的函数，是一个随机变量，当Y=y时E(X|Y)的取值为E(X|Y=y)；E(X|Y)的数学期望为(重期望公式)：它具有数学期望的一切性质：,40,注：X在Y=y的条件下的条件期望E(X|Y=y)是y的函数,它是一个变量,这不同于无条件期望E(X),不仅在于计算公式上，还在于含义上.,如：X表示中国成年人的身高,则EX表示

10、中国成年人的平均身高.若用Y表示中国成年人的足长，则E(X|Y=y)表示足长为y的中国成年人的平均身高.我国公安部门研究获得：E(X|Y=y)=6.876y，若测得案犯留下的足印长为25.3cm,则可推算出案犯的身高约174cm。,41,例:,设随机向量(X,Y)的联合分布率为,求E(X|Y)的分布率，E(X)以及E E(X|Y).,解：先求E(X|Y)的可能取值,42,故E(X|Y)的分布率为,从而 E(X)=E E(X|Y).,43,例:设数Y在区间(0,1)上随机地取值,当观察到Y=y(0y1)时,数X在区间(y,1)上随机取值.求X的概率密度fX(x)，.,对于任意的y(0y1),在Y

11、=y的条件下,X的条件概率密度,解:按题意Y具有概率密度,44,45,例:矿井脱险 一矿工困在矿井中，要到达安全地带,有三个通道可以选择。第一个通道3个小时可达安全地带，第二个5小时又返回原处，第三个7小时也返回原处。设任一时刻都等可能地选中其中一个通道。试问他到达安全地带平均要多长时间。解：设X为矿工到达安全地带所需时间，可能取值为：3,5+3,7+3,5+5+3,5+7+3,7+7+3，,46,记Y表示第一次所选的通道，则,第一个通道3个小时可达安全地带，则,第二个通道5个小时后回到原处，则,第三个通道7个小时后回到原处，则,47,在实际情况中，走过的错误通道不会再重走，所以有：,48,如

12、果事件A，B满足,设 是n个事件，如果对于任意 和，有,则称事件 相互独立.,则称事件A，B相互独立.,两个,n个,1.4.3 独立性,49,随机变量的独立性,随机变量 相互独立定义为对任意的,其中，,独立的充要条件为,50,独立性的性质,定理1.14 Borel-Cantelli第一引理 设An，n1为一列事件，且 若，则,定理1.15 Borel-Cantelli第二引理 设An，n1为独立的事件列，且 若，则,51,顾客随机到达服务台接受服务:表示在时间段(0,t)到达 k个顾客;显然 即由第一引理可知:,独立重复试验某个事件成功的概率为p0,由第二引理该事件连续五次成功出现无穷多次的概

13、率为1.,随机过程实例,52,设X1，X2相互独立，其分布函数分别为F1(x),F2(x),X=X1+X2,则,1.4.3 独立随机变量和的分布,53,卷积的性质：,(4)设Xk,k=1,2,n,是独立同分布F(x)的随机变量，,Sn的分布函数记为Fn(x),则,其中：,54,1.5 收敛性,如果,随机变量序列 以概率1收敛于X，或称 几乎处处收敛于X，记作,则称,55,如果,对于任意给定的正数，有,随机变量序列 依概率收敛于X，记作,则称,56,如果,对于所有的 有存在随机变量X，有,则称 随机变量序列 以p次均方收敛于X.若p=2称为均方收敛，记作：,使得,57,设 是 的分布函数列，如果

14、存在一个单调不减函数，使在 的所有连续点x上有,则称随机变量序列 依分布收敛于X，记作,称函数列 弱收敛于.,58,以概率1 收敛,依概率收敛,均方收敛,依分布收敛,几种收敛性的关系,均方收敛与以概率1收敛不存在确定的关系。,注,59,从而,证 由马尔科夫不等式,对 有,证明 随机变量序列Xn均方收敛于X,则一定依概率收敛于X.,60,本章作业,设XB(n,p),求X的特征函数g(t),及EX，EX2，VarX；设X和Y的联合概率函数为：求.,61,第2章 随机过程的基本概念和基本类型,2.1 基本概念 2.2 有限维分布与Kolmogorov定理 2.3 随机过程的基本类型,62,自然界变化

15、的过程可以分为确知过程和随机过程两大类,每次观测所得结果都相同，都是时间t的一个确定的函数，具有确定的变化规律。,每次观测所得结果都不同，都是时间t的不同函数，观测前又不能预知观测结果，没有确定的变化规律。,确知过程,随机过程,2.1 基本概念,63,电话站在时刻 t 时以前接到的呼叫次数,例1,一般情况下它是一个随机变数X，并且依赖时间t，即随机变数X(t)，t0,24。,例2,研究某一商品的销售量,一般情况下它是一个随机变数X，并且依赖时间t，即随机变数X(t)，t=1,2,。,直观背景及例子,64,顾客来到服务站要求服务。用X(t)表示 t 时刻的队长，用Y(t)表示 t 时刻到来的顾客

16、所需的等待时间，则它们都是随机过程。,一个醉汉在路上行走，以概率 p前进一步，以概率1-p后退一步（假设步长相同）。以X(t)记他 t 时刻在路上的位置，则X(t),t0就是（直线上的）随机游动。,例3,排队模型,例4,随机游走,65,随机过程定义,说明,参数集T：可离散可连续可某集合,如果 T 为向量集合，则随机过程称为随机场；随机序列或时间序列：X(n),n=0,1,或X(n),n0；随机过程是随机变量的集合。,66,当 t 固定，固定时，X(t)是一个确定值；当 t 固定，可变时，X(t)是一个随机变量；当 t 可变，固定时，X(t)是一个确定的样本路径或样本函数；当 t 可变，可变时，X(t)是一个随机过程。,符号含义,随机过程 可看成定义在积集 上的二元函数,67,图示,68,随机过程的分类,69,随机过程的分布函数,2.2有限维分布与Kolmogorov定理,随机过程的一维分布：随机过程的二维分布：随机过程的n维分布：,70,有限维分布族：随机过程的所有一维分布，二维分布，n维分布等的全体称为X(t),t T的有限维分布族,有限维分布族,71,定理2.1(Kolmogoro