X
连续型随机变量X的概率分布用概率密度f（x）分布函数F（x）二f（t）dt
2.n维随机变量X=（Xi,X2，…，Xn）
其联合分布函数F（x）HFa’X?
，…，Xn）=P（X1空X-X2乞x2,…，Xn乞xn,）
离散型联合分布列连续型联合概率密度
3.随机变量的数字特征
数学期望：
离散型随机变量XEX=二xkpk连续型随机变量XEX二"xf（x）dx
匚
方差：
DX=E（X-EX）2二EX2-（EX）2反映随机变量取值的离散程度
协方差（两个随机变量X,Y）：
Bxy=E[（X—EX）（Y—EY）]=E（XY）—EX.EY
独立=不相关：
=:
-=0
4.特征函数g（t）二E（eitX）
予oO予
离散g（t）二'eiXkPk连续g（t）eiXf（x）dx
'J
重要性质：
g（0）=1,g（t）<1,g（—t）=g（t）,gk（0）=ikEXk
5•常见随机变量的分布列或概率密度、期望、方差
0—1分布
P（X=1）=p,P（X=0）=q
EX
二p
DX=pq
二项分布
kkn-k
P（X=k）=CnpqEX
=np
DX
=npq
泊松分布
-k
P（X=k）=eEX
k!
DX
=扎
均匀分布略
X~N（a,B）
6.N维正态随机变量X=（X,,X2^,Xn）的联合概率密度
IITA.
f（Xi,X2,,Xn）二n-exo{（x-a）B（x-a）}
2（2二）2|B|2
a=（a.,a2,…，aj,x=（xi,X2，…，Xn）,B=（bij）nn正定协方差阵
二•随机过程的基本概念
1•随机过程的一般定义
设r1,P）是概率空间，T是给定的参数集，若对每个rT,都有一个随机变量X与之对应,
则称随机变量族fx（t,e）,t・T/是（JP）上的随机过程。
简记为（X（t）,t・T?
。
含义：
随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规
律性。
另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。
当t固定时，X（t,e）是随机变量。
当e固定时，X（t,e）时普通函数，称为随机过程的一个样本函数或轨道。
分类：
根据参数集T和状态空间I是否可列，分四类。
也可以根据X（t）之间的概率关系分类,
如独立增量过程，马尔可夫过程，平稳过程等。
2.随机过程的分布律和数字特征
用有限维分布函数族来刻划随机过程的统计规律性。
随机过程〈X（t）,t・T，的一维分布，二维分
布，…，n维分布的全体称为有限维分布函数族。
随机过程的有限维分布函数族是随机过程概率特征的完整描述。
在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。
（1）均值函数mX（t）工EX（t）表示随机过程「X（t）,tT?
在时刻t的平均值。
（2）方差函数Dx（t）=E[X（t）-mx（t）]2表示随机过程在时刻t对均值的偏离程度。
（3）
Bx（s,t）二E[（X（s）m（s））（X（t）一mx（t））]
协方差函数且有Bx（t,t）二Dx（t）
=E[X（s）X（t）]-mx（s）mx（t）
（4）相关函数Rx（s,t）二E[X（s）X（t）]（3）和⑷表示随机过程在时刻s,t时的线性相关程度。
（5）互相关函数：
fx（t）,t•T\Y（t）,rT[是两个二阶距过程，则下式称为它们的互协方差函
数。
BxY（s,t）=E[（X（s）-mx（s））（Y（t）-mY（t））]
，那么RxY（s,t）=E[X（s）Y（t）]，称为互相关函数。
二E[X（s）Y（t）]-mx（s）mY（t）
若E[X（s）Y（t）]=mx（s）mY（t），则称两个随机过程不相关。
3•复随机过程Zt=Xt•jYt
均值函数mZ（t）二EXt•jEYt方差函数
Dz（t）=E[|Zt-mz（t）『=E[（Zt-mz（t））（Zt-mz（t））]
Bz（s,t）=E[（Zs-mz（s））（Zt-mz（t））]—
协方差函数_相关函数RZ（s,t）=E[ZsZt]
=E[ZsZt]-mz（s）mz（t）
4•常用的随机过程
（1）二阶距过程：
实（或复）随机过程{x（t）,WT}，若对每一个"T，都有EX（t）2（二
阶距存在），则称该随机过程为二阶距过程。
（2）正交增量过程：
设「X（t）,t•T「是零均值的二阶距过程，对任意的t1:
：
:
t2:
：
:
t^：
：
t^T，有
E[（X（t2）—X（tJ）（X（t4）—X（t3））]=0，则称该随机过程为正交增量过程。
其协方差函数Bx（s,t）二Rx（s,t）-；「X（min（s,t））
（3）独立增量过程：
随机过程"X（t）,rTI若对任意正整数n-2,以及任意的匕：
:
：
t2：
：
：
…：
:
:
tn•T,随机变量X（t2）-X（tJ,X（t4）-X（t3）,…，X（tn）-X（tnJ是相互独立的，则称：
X（t）,TT是独立增量过程。
进一步，如1x（t）,t・T[是独立增量过程，对任意s：
：
：
t，随机变量X（t）-X（s）的分布仅依赖于t-s，则称〈X（t）,t•T?
是平稳独立增量过程。
（4）马尔可夫过程：
如果随机过程「X（t）,t•T?
具有马尔可夫性，即对任意正整数n及
ti:
：
t2t「T，P（X（tJ=Xi，…，X（tn」）二Xn」）•0，都有
卩収仏）兰XnX（ti^Xi/\X（tn^^X^^）=Hx（tn^XnX（t^^^Xn^｝，则则称^X（t）,^T）是马尔可夫过程。
（5）正态过程：
随机过程「X（t）,t，若对任意正整数n及t,,t2,…，tn•T，
（X（ti）,X（t2）_X（tn））是n维正态随机变量，其联合分布函数是n维正态分布函数，则称
'：
X（t）,tT1是正态过程或高斯过程。
（6）维纳过程：
是正态过程的一种特殊情形。
设W（t）,-：
：
：
:
:
t：
：
：
：
:
1为实随机过程，如果，①W（0）=0;②是平稳独立增量过程；③对任意s,t增量W（t）—W（s）服从正态分布，即W（t）—W（s）~N（0,b2t—s）十＞0。
则称W（t）,-：
：
:
:
:
t：
：
：
：
「为维纳过程，或布朗运动过程。
另外：
①它是一个Markov过程。
因此该过程的当前值就是做出其未来预测中所需的全部信息。
②维纳过程具有独立增量。
该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间
上变化的概率。
③它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。
（7）平稳过程：
严（狭义）平稳过程：
｛x（t）,tET｝，如果对任意常数I和正整数n及切上2,…，tnET，
t1t,,tnT,（X（tJ,X（t2）X（tn））与（X（=JX&）…X（t^））有相
同的联合分布，则称^X（t）,rt［是严（狭义）平稳过程。
广义平稳过程：
随机过程fx（t）,t•T?
如果①^X（t）,rT［是二阶距过程；②对任意的tT，
mx（t）二EX（t）二常数；③对任意s，rT，Rx（s,t）=E［X（s）X（t）］二Rx（t-s），或仅与时间差t-s有关。
则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。
第二章泊松过程
1.泊松过程的定义（两种定义方法）
1,设随机计数过程X（t）,t_ol，其状态仅取非负整数值，若满足以下三个条件，贝y称：
x（t）tT?
是具有参数■的泊松过程。
①X（0）=0；②独立增量过程，对任意正整数n,以及任意的
ti：
：
戈…tn*TX（t2）-X（ti）,X（t3）-X（t2）,…,X（tn）—X（tn_|）相互独立，即不同时间间隔
的计数相互独立；③在任一长度为t的区间中，事件A发生的次数服从参数t0的的泊松分布，即
对任意t,s0，有p「x（t•s）-X（s）=n=e~ln二0,1,川
n!
一旦严，表示单位时间内时间A发生的平均个数，也称速率或强度。
2,设随机计数过程:
x（t）,t-o?
，其状态仅取非负整数值，若满足以下三个条件，则称：
X（t）,t-0?
是具有参数■的泊松过程。
①X（0）=0；②独立、平稳增量过程；③
pfx（th）-X（t）=1=ho（h）P〈X（th）-X（t）_2「-o（h）
第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。
2.
基本性质
Bx（s,t）=Rx（s,t）-mx（s）mx（t）=-min（s,t）推导过程要非常熟悉2,Tn表示第n-1事件A发生到第n次事件发生的时间间隔，、Tn,n-1：
■是时间序列，随机变量Tn
丨hBt>0\1-t>0
服从参数为’的指数分布。
概率密度为f（t^0,,t〔0，分布函数FTn（：
0,t「0均值
1
为ETn=
扎
证明过程也要很熟悉到达时间的分布略
3.非齐次泊松过程到达强度是t的函数
h）-X（t）=1•；V（t）ho（h）
h）_X（t）_2.；=o（h）
性。
t
均值函数mX（t）二E[X（t）]=o■（s）ds
定理：
X（t）,t_0?
是具有均值为mX（t）二：
■（s）ds的非齐次泊松过程，则有
PYX（ts）-X（t）二n=[叫（t—s）_mx（t）]exp「一[mX（ts）「mX（t）]/
n!
四•复合泊松过程
设（t）,t-Of是强度为■的泊松过程，Yk,k=1,2,|）样是一列独立同分布的随机变量，且与
N（t）
:
N（t）,t-独立，令X（t）=，.Yk则称:
X（t）,t-0?
为复合泊松过程。
k二
重要结论：
:
X（t）,t-0｝是独立增量过程；若E（Y：
）:
:
：
：
：
，则E[X（t）4■tE（Y,）
2
D[X（t）H'tE（丫！
）
第五章马尔可夫链
泊松过程是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。
时间和状态
都离散的马尔可夫过程称为马尔可夫链。
马尔可夫过程的特性：
马尔可夫性或无后效性。
即：
在过程时刻t0所处的状态为已知的条件下，
过程在时刻tto所处状态的条件分布与过程在时刻to之前所处的状态无关。
也就是说，将来只与现
在有关，而与过去无关。
表示为P｛X（J）兰XnX（tJ=洛，…，X（tnJ=召」=卩仪（仁）"nX（tn」）=人」｝
一.马尔可夫链的概念及转移概率
1•定义：
设随机过程Xn,nT』，对任意的整数nT和任意的io,ii^l,in1■I，条件概率满足P｛Xn+=in+Xo=io，X1=i1,Hl,Xn=in｝=P｛X^=i^X^i^，则称｛X.,“灯｝为马尔可夫链。
马尔可夫链的统计特性完全由条件概率p｛XnHr=in』Xn=in｝所决定。
2.转移概率P仪时=j|Xn=i｝相当于随机游动的质点在时刻n处于状态i的条件下，下一步转移到j的概率。
记为Pij（n）。
则Pij（n）=p｛xnHr=jXn=i｝称为马尔可夫链在时刻n的一步转移概
率。
若齐次马尔可夫链，则Pj（n）与n无关，记为pj。
P二[Pj]i,jII=1,2,|l|
称为系统的一步转移矩阵。
性质：
每个元素Pij_0,每行的和
移矩阵。
掌握证明方法:
②p（n）=pn
八pk：
4（ml）p（k）（m）八Pi：
"-pkjnk日kWl
说明n步转移概率矩阵是一步转移概率矩阵的n次乘方。
4.:
Xn，n・T1是马尔可夫链，称Pj二PfXo二j?
为初始概率，即0时刻状态为j的概率；称
Pj（n）二P：
Xn=j』为绝对概率，即n时刻状态为j的概率。
PT（0）=1口，P2,IH{为初始概率向量，PT（n）n）,p2（n）,川/为绝对概率向量。
定理：
①Pj（n）=WPiPi（n）矩阵形式：
PT（n）=PT（0）P（n）②pj（n）=迟p（n-1）pij
定理：
p{x1=h,X2=i2,川,xn=in}=EpipiJ||pinjin说明马氏链的有限维分布完全由它的初iS"“
始概率和一步转移概率所决定。
2.马尔可夫链的状态分类
1周期：
自某状态出发，再返回某状态的所有可能步数最大公约数，即
d=GCDin:
p（n）0?
。
若
d1，则称该状态是周期的；若d=1，则称该状态是非周期的。
2•首中概率：
fj（n）表示由i出发经n步首次到达j的概率。
□0
3.侖fij（n）表示由i出发经终于（迟早要）到达j的概率。
n吕
4.如果fii=1，则状态i是常返态；如果fii：
1，状态i是非常返（滑过）态。
cd
5.•\=anfH（n）表示由i出发再返回到i的平均返回时间。
若叫：
：
：
：
:
则称i是正常返态；若叫二：
:
cd
6.状态i是常返充要条件是ap（n）
ii
n=0
:
:
;状态i是非常返充要条件是
□0
Z
nz0
P
ii
（n）
1
1-fii
n二
则称i是零常返态。
非周期的正常返态是遍历状态。
7.称状态i与j互通，hj,即i>j且j>i。
如果hj，则他们同为常返态或非常返态，；若i,j同为常返态，则他们同为正常返态或零常返态，且i,j有相同的周期。
1
&状态i是遍历状态的充要条件是limp（n）=—A0。
一个不可约的、非周期的、有限状态的马尔可
片
夫链是遍历的。
9.要求：
熟悉定义定理，能由一步转移概率矩阵画出状态转移图，从而识别各状态。
3.状态空间的分解
1.设C是状态空间I的一个闭集，如果对任意的状态iC，状态j'C，都有Pij=0（即从i出发
经一步转移不能到达j）,则称C为闭集。
如果C的状态互通，则称C是不可约的。
如果状态空间不可约，则马尔可夫链Xn,nT；■不可约。
或者说除了C之外没有其他闭集，则称马尔可夫链
Xn,nT［不可约。
2.C为闭集的充要条件是：
对任意的状态iC，状态j■C，都有p（n）=0。
所以闭集的意思是自ij
C的内部不能到达C的外部。
意味着一旦质点进入闭集C中，它将永远留在C中运动。
如果Pii-1，则状态i为吸收的。
等价于单点⑺为闭集。
3.马尔可夫链的分解定理：
任一马尔可夫链的状态空间
I，必可唯一地分解成有限个互不相交的子
集D,Ci,C2,|l（Cn山的和，①每一个Cn都是常返态组成的不可约闭集；②Cn中的状态同类，或全是
正常返态，或全是零常返态，有相同的周期，且fj=1。
③D是由全体非常返态组成。
分解定理
说明：
状态空间的状态可按常返与非常返分为两类，非常返态组成集合D，常返态组成一个闭集C。
闭集C又可按互通关系分为若干个互不相交的基本常返闭集C1,C2^|C^|。
含义：
一个马尔
可夫链如果从D中某个非常返态出发，它或者一直停留在D中，或某一时刻进入某个基本常返闭集
Cn，一旦进入就永不离开。
一个马尔可夫链如果从某一常返态出发，必属于某个基本常返闭集Cn,
永远在该闭集Cn中运动。
4.有限马尔可夫链：
一个马尔可夫链的状态空间是一个有限集合。
性质：
①所有非常返态组成的集合不是闭集；②没有零常返态；③必有正常返态；④状态空间
I-DC1C^HCn,D是非常返集合，C1,C2,||（Cn是正常返集合。
不可约有限马尔可夫链只有正常返态。
4.Pj（n）的渐近性质与平稳分布1•为什么要研究转移概率p（n）的遍历性?
研究p（n）当nT比时的极限性质，即p{Xn=jX。
=i}的极限分布，包含两个问题：
一是limp（n）
n—
是否存在；二是如果存在，是否与初始状态有关。
这一类问题称作遍历性定理。
如果对i,jI，存在不依赖于i的极限limp（n）=Pj0，则称马尔可夫链具有遍历性。
一个
n—SC」
不可约的马尔可夫链，如果它的状态是非周期的正常返态，则它就是一个遍历链。
具有遍历性的马
尔可夫链，无论系统从哪个状态出发，当转移步数n充分大时，转移到状态j的概率都近似等于pj,
这时可以用Pj作为p（n）的近似值。
2•研究平稳分布有什么意义？
判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的，可以通过讨论limp（n）来解决,
Lj
limp（n）=?
但求极限时困难的。
所以，我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链。
一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布，且平稳分布即极限分布
3.：
Xn,n-0J■是齐次马尔可夫链，状态空间为I，一步转移概率为Pj，概率分布j,jI｛称为
二j=為码Pj
马尔可夫链的平稳分布，满足i1
二j=1
ji
4.定理：
不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布，且此平稳分布就是极限分
1
布,jI。
推论：
有限状态的不可约非周期马尔可夫链必存在平稳分布。
Jj
5•在工程技术中，当马尔可夫链极限分布存在，它的遍历性表示一个系统经过相当长时间后达到平
衡状态，此时系统各状态的概率分布不随时间而变，也不依赖于初始状态。
6.对有限马尔可夫链，如果存在正整数k，使p（k）.0，即k步转移矩阵中没有零元素，则该链是
遍历的。
第六章平稳随机过程
一.定义（第一章）
严平稳过程：
有限维分布函数沿时间轴平移时不发生变化。
2
宽平稳过程：
满足三个条件：
二阶矩过程E[X（t）]<^；均值为常数E[X（t）]=常数；相关函数只
与时间差有关，即RX（t,t-）=E||X（t）X（t-）=Rx（）。
宽平稳过程不一定是严平稳过程，而严平稳过程一定是宽平稳过程。
二•联合平稳过程及相关函数的性质
1•定义：
设1X（t）,t・T?
和1X（t）tT?
是两个平稳过程，若它们的互相关函数EX（t）Y（t_.）及
EV（t）X（^T）1仅与时间差£有关，而与起点t无关，则称X（t）和Y（t）是联合平稳随机过程。
即，RxY（t,t-）二EX（t）Y（t-）二Rxy（）RYX（t,t-）二EY（t）X（t—）二Ryx（）
当然，当两个平稳过程联合平稳时，其和也是平稳过程。
2.相关函数的性质：
①Rx（0）-0:
②RxC）_RxC），对于实平稳过程，Rx（）是偶函数。
③
RxC）乞Rx（0）④非负定。
⑤若X（t）是周期的，则相关函数Rx（）也是周期的，且周期相同。
⑥如
果X（t）是不含周期分量的非周期过程，
X（t）与X（t•相互独立，贝ylimRxC）=mxmx。
升级会员 