应用随机过程课件.ppt
《应用随机过程课件.ppt》由会员分享,可在线阅读,更多相关《应用随机过程课件.ppt(290页珍藏版)》请在冰豆网上搜索。
应用随机过程应用随机过程ApplicationofStochasticProcesses范爱华范爱华数理科学与工程学院数理科学与工程学院应用数学系应用数学系成功的道路并不拥挤,成功的道路并不拥挤,的人并不是很多。
的人并不是很多。
因为坚持到最后因为坚持到最后教材教材应用随机过程应用随机过程主要教学参考书主要教学参考书张波张波张景肖张景肖编编中国人民大学出版社参考书参考书1.1.应用随机过程应用随机过程林元烈林元烈编著编著清华大学出版社清华大学出版社2.随机过程随机过程王风雨王风雨编著编著北京师范大学出版社北京师范大学出版社前前言言第第11章章预备知识预备知识1.1概率空间概率空间在自然界和人类的活动中经常遇到各种各样的现在自然界和人类的活动中经常遇到各种各样的现象,大体上分为两类:
象,大体上分为两类:
必然现象和随机现象必然现象和随机现象。
具有随机性的现象具有随机性的现象随机现象随机现象对随机现象的观察或为观察而进行的实验对随机现象的观察或为观察而进行的实验随机试验随机试验随机试验的结果随机试验的结果基本事件或样本点。
基本事件或样本点。
所有可能的结果称为所有可能的结果称为样本空间样本空间。
A称为事件称为事件。
(有(有3个特征)个特征)事件的性质事件的性质假设假设A,B,C是任意事件,则他们满足:
是任意事件,则他们满足:
(1)交换律交换律
(2)结合律结合律(3)分配律分配律(4)对偶原则对偶原则(DeMorgan律律)定义定义1.1性质性质假假例例1.1例例1.2例例1.3随机试验随机试验:
掷一枚骰子,观察出现的点数,掷一枚骰子,观察出现的点数,思考题:
思考题:
定义定义1.2结论:
结论:
定义定义1.3定义定义1.4例例1.1:
概率的基本性质概率的基本性质单调性单调性次可列可加性次可列可加性事件列极限事件列极限1:
结论:
结论:
定理:
定理:
具体情况:
具体情况:
事件列极限事件列极限2:
定义定义1.5的下极限的下极限的上极限的上极限例例1.2:
关系:
关系:
含义:
含义:
例例1.3:
1.2随机变量和分布函数随机变量和分布函数随机变量:
随机变量:
用实数来表示随机实验的各种结果用实数来表示随机实验的各种结果.定义定义1.6关于随机变量的几点说明:
关于随机变量的几点说明:
定理定理1.1:
定义定义1.7分布函数的含义:
分布函数的含义:
分布函数分布函数的性质:
的性质:
随机变量的类型:
随机变量的类型:
离散型:
离散型:
连续型:
连续型:
多维随机变量:
多维随机变量:
d维随机向量维随机向量多维随机变量联合分布函数:
多维随机变量联合分布函数:
性质:
性质:
一些常见的分布:
一些常见的分布:
1.离散均匀分布:
离散均匀分布:
分布列:
分布列:
2.二项分布:
二项分布:
分布列:
分布列:
3.几何分布:
几何分布:
分布列:
分布列:
4.Poisson分布:
分布:
分布列:
分布列:
_参数为参数为的的Poisson分布分布5.均匀分布:
均匀分布:
6.正态分布:
正态分布:
7.分布:
分布:
函数的性质:
函数的性质:
8.指数分布:
指数分布:
9.分布:
分布:
10.d维正态分布:
(略)维正态分布:
(略)1.3数字特征、矩母函数与特征函数数字特征、矩母函数与特征函数一、数字特征一、数字特征定义定义1.8:
X的一阶矩的一阶矩二、二、Rieman-Stieltjes积分积分Rieman-Stieltjes积分:
积分:
注:
注:
R-S积分性质:
积分性质:
可加性可加性注:
注:
四、矩母函数与特征函数四、矩母函数与特征函数1.矩母函数矩母函数(momentgeneratingfunction)定义定义1.9:
矩母函数的性质:
矩母函数的性质:
2.特征函数特征函数(characteristicfunction)复随机变量复随机变量定义定义1.10:
复随机变量的数学期望复随机变量的数学期望特征函数的性质:
特征函数的性质:
有界性有界性共轭对称性共轭对称性例例3.1:
例例3.2:
例例3.3:
例例3.4:
例例3.5:
作业题:
作业题:
1.4条件概率条件概率条件期望条件期望独立性独立性一、条件概率一、条件概率1.定义:
定义:
1.基本公式基本公式定理定理1:
(乘法公式乘法公式)定理定理2:
(全概率公式全概率公式)定理定理3:
(Bayes公式公式)二、独立性二、独立性1.定义:
定义:
注注1:
两两独立并不包含独立性。
两两独立并不包含独立性。
例:
例:
注注2我们有我们有2.独立性的性质:
独立性的性质:
定理定理4:
推论推论1:
推论推论2:
定理定理5:
定理定理6:
四、条件期望四、条件期望1.边缘分布边缘分布称称X,Y独立独立.2.条件分布函数条件分布函数3.条件数学期望条件数学期望异同:
异同:
定义:
定义:
定理:
定理:
例例2:
五、独立随机变量和的分布五、独立随机变量和的分布卷积公式卷积公式称为称为的卷积的卷积注:
注:
结合律结合律分配律分配律第第22章章随机过程的基本随机过程的基本概念和基本类型概念和基本类型2.1基本概念基本概念在概率论中,我们研究了随机变量,在概率论中,我们研究了随机变量,维随机向量。
维随机向量。
在极限定理中,我们研究了无穷多个随机变量在极限定理中,我们研究了无穷多个随机变量,但局限但局限在它们相互独立的情形。
在它们相互独立的情形。
将上述情形加以推广,将上述情形加以推广,即研究即研究一族无穷多个、相互有关的随机变量,一族无穷多个、相互有关的随机变量,这就是随机过程。
这就是随机过程。
定义定义2.12.1:
设是一概率空是一概率空间,对每一个参数每一个参数,是一定义在概率空间是一定义在概率空间上的随机上的随机变量,变量,则称随机变量族则称随机变量族为该概率为该概率空间上的一随机过程。
空间上的一随机过程。
称为参数集。
称为参数集。
随机过程的两种描述方法:
随机过程的两种描述方法:
用映射表示用映射表示即即是一定是一定义在在上的二元上的二元单值函数,函数,固定固定是一定是一定义在在样本空本空间上的函数,上的函数,即为一随机变量;即为一随机变量;对于固定的对于固定的是一个是一个关于参数关于参数的函数,的函数,或称随机或称随机过程的一次实现。
过程的一次实现。
记号记号通常称为样本函数,通常称为样本函数,有时记为有时记为或简记为或简记为参数参数一般表示时间或空间。
一般表示时间或空间。
参数常用的一般有:
参数常用的一般有:
(1)
(2)(3)当参数取可列集时,当参数取可列集时,一般称随机过程为随机序列。
一般称随机过程为随机序列。
随机过程随机过程可能取值的全体所构成的集合可能取值的全体所构成的集合称为此随机过程的状态空间,记作称为此随机过程的状态空间,记作S.S中的元素中的元素称为状态。
状态空间可以由复数、实数或更一般的称为状态。
状态空间可以由复数、实数或更一般的抽象空间构成。
抽象空间构成。
随机过程分为以下四类:
随机过程分为以下四类:
(1)离散参数离散型随机过程;离散参数离散型随机过程;
(2)连续参数离散型随机过程;连续参数离散型随机过程;(3)连续参数连续型随机过程;连续参数连续型随机过程;(4)离散参数连续型随机过程。
离散参数连续型随机过程。
以随机过程的统计特征或概率特征的分类,一般有以随机过程的统计特征或概率特征的分类,一般有:
独立增量过程;独立增量过程;Markov过程;过程;二阶矩过程;二阶矩过程;平稳过程;平稳过程;更新过程;更新过程;Poission过程;过程;维纳过程。
维纳过程。
鞅;鞅;随机过程举例随机过程举例例例2.1例例2.2抛掷一枚硬币,样本空间为抛掷一枚硬币,样本空间为定义:
定义:
随机过程。
随机过程。
例例2.32.2有限维分布与有限维分布与Kolmogvrov定理定理一、随机过程的分布函数一、随机过程的分布函数1.一维分布函数一维分布函数2.二维分布函数二维分布函数3.n维分布函数维分布函数4.有限维分布族有限维分布族称为有限维分布族称为有限维分布族5.有限维分布族的性质有限维分布族的性质
(1)对称性对称性
(2)相容性相容性注注1:
随机过程的统计特性完全由它的有限维分:
随机过程的统计特性完全由它的有限维分布族决定。
布族决定。
注注2:
有限维分布族与有限维特征函数族相互唯有限维分布族与有限维特征函数族相互唯一确定。
一确定。
问题:
问题:
一个随机过程一个随机过程是否描述了该过程的全部概率特性?
是否描述了该过程的全部概率特性?
的有限维分布族,的有限维分布族,定理:
定理:
(Kolmogorov存在性定理)存在性定理)设分布函数族设分布函数族满足以上提到的对称性和相容性满足以上提到的对称性和相容性,则必有一随机过程则必有一随机过程恰好是恰好是的有限维分布族,即:
的有限维分布族,即:
定理说明定理说明:
的有限维分布族包含了的有限维分布族包含了的所有概率信息。
的所有概率信息。
例例2.4例例2.5二、随机过程的数字特征二、随机过程的数字特征1.均值函数均值函数随机过程随机过程(假设是存在的)(假设是存在的)的均值函数定义为:
的均值函数定义为:
2.方差函数方差函数随机过程随机过程的的方差方差函数定义为:
函数定义为:
3.(自自)协方差函数协方差函数4.(自自)相关函数相关函数5.(互互)协方差函数协方差函数6.互相关函数互相关函数7.互不相关互不相关8.特征函数特征函数为随机过程为随机过程的有限维特征函数族。
的有限维特征函数族。
记:
记:
例例2.6例例2.7作业作业12.3随机过程的基本类型随机过程的基本类型一、严平稳过程一、严平稳过程定义定义1:
二、严平稳过程的特点二、严平稳过程的特点则则三、宽平稳过程三、宽平稳过程(简称平稳过程简称平稳过程)定义定义2:
注注1:
注注2:
例例2.8例例2.9四、平稳过程相关函数的性质四、平稳过程相关函数的性质性质性质1:
性质性质2:
结论:
结论:
性质性质3:
性质性质4:
注:
注:
定义:
定义:
注:
注:
性质性质5:
性质性质6:
性质性质7:
性质性质8:
性质性质9:
例例2.10:
五、独立增量过程五、独立增量过程定义定义1例例2.11:
定义定义2六、遍历性定理六、遍历性定理定义定义1:
定义定义2:
例例2.12:
例例2.13:
定理定理2.2:
(均值遍历性定理均值遍历性定理)推论推论2.1:
推论推论2.2:
定理定理2.2:
(协方差函数遍历性定理协方差函数遍历性定理)作业作业1:
作业作业2:
书第二章书第二章习题习题2.6.作业作业3:
第第33章章PoissonPoisson过程过程3.1Poisson过程过程定义定义3.13.1:
Poission过程是计数过程,而且是一类最重要、过程是计数过程,而且是一类最重要、应用广泛的计数过程,它最早于应用广泛的计数过程,它最早于1837年由法国数学家年由法国数学家Poission引入。
引入。
定义定义3.23.2:
例例3.13.1:
解解:
见板书。
见板书。
定义定义3.23.2:
一计数过程一计数过程是是独立增量独立增量及平稳增量及平稳增量过程,即任取过程,即任取相互独立;相互独立;定义定义3.23.2的解释的解释:
定理定理3.1:
3.1:
由增量平稳性,记:
由增量平稳性,记:
(I)情形:
因为情形:
因为我们有:
我们有:
另一方面另一方面代入上式,我们有:
代入上式,我们有:
令令我们有:
我们有:
(II)情形:
因为:
情形:
因为:
故有:
故有:
化简并令化简并令得:
得:
两边同乘以两边同乘以,移项后有:
,移项后有:
当当时,有:
时,有:
由归纳法可得:
由归纳法可得:
注意:
注意:
因此因此代表单位时间内事件代表单位时间内事件出现的平均次数。
出现的平均次数。
由归纳法可得:
由归纳法可得:
注意:
注意:
因此因此代表单位时间内事件代表单位时间内事件出现的平均次数。
出现的平均次数。
例例3.23.2:
例例3.33.3:
例例3.43.4:
作业作业11:
作业作业22:
书第三章习题书第三章习题3.5,3.6,3.103.5,3.6,3.103.2Poisson过程相联系的若干分布过程相联系的若干分布复习复习:
1.1.指数分布指数分布2.2.无记忆性无记忆性定理定理3.23.2:
结论结论:
定义定义3.33.3:
注注:
例例3.53.5:
(:
(见书见书例例3.43.4)例例3.63.6:
定理定理3.33.3:
证明证明: