完整版随机过程知识点汇总.docx

1、完整版随机过程知识点汇总第一章随机过程 的基本概念与基本类型一随机变量及其分布X，分布函数 F (x) P(X x)1随机变量离散型随机变量 X 的概率分布用分布列p P(X xk)F(x)pkf (t)dt分布函数kxX 的概率分布用概率密度f (x)F(x)分布函数连续型随机变量2n维随机变量 X (X ,X , , X )12nF(x) F(x ,x , ,x ) P(X x , X 2 x , , X n xn ,)其联合分布函数12n112离散型联合分布列连续型联合概率密度随机变量 的数字特征数学期望：离散型随机变量XEXx pkkXEXxf (x)dx连续型随机变量2DX E(X

2、EX) 2 EX (EX) 2方差：反映随机变量取值 的离散程度协方差（两个随机变量 X ,Y）：BE( X EX)(Y EY) E(XY) EX EYXYBXY相关系数（两个随机变量X,Y）：0，则称 X ,Y不相关。若XYDXDY独立不相关0itXg(t) E(e )itxe pk 连续 g(t)keitx f (x)dx特征函数离散 g(t)重要性质： g(0) 1，g(t) 1 g( t) g(t)， g (0) i EX kk k常见随机变量 的分布列或概率密度、期望、方差分布二项分布P( X 1) p,P( X 0) qEX pDXpqP(X k) C p q n kkkEX np

3、DX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)212N(a, ) f (x)222EX a正态分布eDX2 xe ,x 00, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X N(a, B)维正态随机变量12n112T 1(x a) B (x a)f (x , x , , xn)exp112n2(2 ) | B |2a (a ,a , ,a )， x (x , x , ,x )， B (b ) 正定协方差阵12n12nij n n二随机过程 的基本概念随机过程 的一般定义设 ( , P)是概率空间， T是给定 的参数集，

4、若对每个 t T，都有一个随机变量 X与之对应，X(t,e),t T ( ,是P)上 的随机过程。简记为X(t),t T。则称随机变量族含义：随机过程是随机现象 的变化过程，用一族随机变量才能刻画出这种随机现象 的全部统计规律性。另一方面，它是某种随机实验 的结果，而实验出现 的样本函数是随机 的。t当固定时，X (t,e)是随机变量。当 e固定时， X (t,e)时普通函数，称为随机过程 的一个样本函数或轨道。分类：根据参数集 T和状态空间 I是否可列，分四类。也可以根据 X (t)之间 的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。随机过程 的分布律和数字特征用有限维分布函数族

5、来刻划随机过程 的统计规律性。随机过程X (t),t T 的一维分布，二维分布， n维分布 的全体称为有限维分布函数族。随机过程 的有限维分布函数族是随机过程概率特征 的完整描述。在实际中，要知道随机过程 的全部有限维分布函数族是不可能 的，因此用某些统计特征来取代。m (t) EX(t)XX(t),t T（）均值函数t在时刻 的平均值。表示随机过程（）方差函数 D (t) EX(t) m (t) 2t对均值 的偏离程度。表示随机过程在时刻XXB (s,t ) E( X (s) m (s)( X (t) m (t)XXXB (t,t) D (t)且有（）协方差函数（）相关函数XXE X (s)

6、X (t) m (s)m (t)XXR (s,t) E X(s)X(t)X(3) (4)表示随机过程在时刻 s t和，时 的线性相关程度。（）互相关函数：数。X(t),t T， Y(t),t T是两个二阶距过程，则下式称为它们 的互协方差函 B (s, t) E( X (s) m (s)(Y(t) m (t)X YXY，那么 R (s,t) E X(s)Y(t)，称为互相关函数。XYEX (s)Y(t) m (s)m (t )XYEX(s)Y(t) m (s)m (t)，则称两个随机过程不相关。若XY复随机过程Z X t jYtt均值函数 m (t) EX t jEYtZ方差函数D (t) E

7、| Z m (t) |2 E(Z m (t)(Z m (t)ZtZtZtZB (s,t) E(Z m (s)(Z m (t)ZsZtZR (s,t) EZ Z t 协方差函数相关函数ZsEZ Z m (s)m (t)stZZ常用 的随机过程2（）二阶距过程：实（或复）随机过程X(t),t T，若对每一个 t T，都有 E X (t)（二阶距存在），则称该随机过程为二阶距过程。t1 t t t T，有2 3 4（2）正交增量过程：设X(t),t T是零均值 的二阶距过程，对任意 的E( X(t ) X(t )(X(t ) X(t ) 0，则称该随机过程为正交增量过程。21432X其协方差函数 B

8、 (s,t) R (s,t)(min(s,t)XX（3）独立增量过程：随机过程 X(t),t T，若对任意正整数 n 2，以及任意 的 t t 21tn T，X(t ) X (t ), X (t ) X(t ), ,X(t ) X(t )是相互独立 的，则称 X(t),t T是独立随机变量2143nn 1X(t),t T是独立增量过程，对任意s t，随机变量 X (t) X (s) 的分增量过程。进一步，如布仅依赖于t s，则称 X(t),t T是平稳独立增量过程。X(t),t T具有马尔可夫性，即对任意正整数 n及（ 4）马尔可夫过程：如果随机过程t1 t2t n T， P(X(t ) x

9、, , X(t ) x ) 0，都有1 1 n 1 n 1P X(t ) x X(t ) x , , X(t ) xn 1P X(t ) x X(t ) xn 1，则则称 X(t),t Tnn11n 1nnn 1是马尔可夫过程。X(t),t Tn及 t1,t , ,t T，2 n（ 5）正态过程：随机过程，若对任意正整数 X(t ), X(t ) X(t )）是 n维正态随机变量，其联合分布函数是（n维正态分布函数，则称12nX(t),t T是正态过程或高斯过程。（6）维纳过程：是正态过程 的一种特殊情形。设 W(t),t为实随机过程，如果， W(0) 0；是平稳独立增量过程；对任意 s,t增

10、2W(t) W(s) N(0, t s)2量 W (t) W(s)服从正态分布，即0。则称W(t),t为维纳过程，或布朗运动过程。另外：它是一个 Markov过程。因此该过程 的当前值就是做出其未来预测中所需 的全部信息。维纳过程具有独立增量。该过程在任一时间区间上变化 的概率分布独立于其在任一 的其他时间区间上变化 的概率。它在任何有限时间上 的变化服从正态分布，其方差随时间区间 的长度呈线性增加。（7）平稳过程：X(t),t Tn t ,t , ,t T，及1 2 n严（狭义）平稳过程：，如果对任意常数和正整数t1,t2, ,tnT，（ X (t ), X(t ) X(t )）与（ X(t

11、1), X(t 2) X(tn)）有相12nX(t),t T同 的联合分布，则称是严（狭义）平稳过程。X(t),t TX (t),t T是二阶距过程；对任意 的t T，广义平稳过程：随机过程，如果m (t) EX(t)常数；对任意 s， t T R (s,t) E X(s)X(t) R (t s)，或仅与时间，XXX差t s有关。则满足这三个条件 的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。第二章泊松过程一泊松过程 的定义（两种定义方法），设随机计数过程X(t),t 0，其状态仅取非负整数值，若满足以下三个条件，则称： X(t),t T是具有参数 的泊松过程。 X (0) 0；独

12、立增量过程，对任意正整数 n，以及任意 的t1 t2t n T X(t ) X(t ), X(t ) X(t ), ,X (t ) X(t )相互独立，即不同时间间隔2132nn 1 的计数相互独立；在任一长度为t 的区间中，事件发生 的次数服从参数t 0 的 的泊松分布，即( t) nt对任意 t, s 0，有 P X (t s) X (s) n en 0,1,n!E X (t)，表示单位时间内时间发生 的平均个数，也称速率或强度。tE X (t)t，设随机计数过程X (t),t 0，其状态仅取非负整数值，若满足以下三个条件，则称： X (t),t 0 是具有参数 的泊松过程。 X (0)

13、0；独立、平稳增量过程；P X (t h) X (t) 1P X (t h) X (t) 2h o(h)。o(h)第三个条件说明，在充分小 的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。二基本性质s( t 1) s tm (t) E X (t)Xt DX (t) R (s,t)X，数字特征t( s 1) s tB (s,t) R (s,t) m (s)m (t)min(s,t)推导过程要非常熟悉XXXX， Tnn 1事件发生到第 n次事件发生 的时间间隔，T ,n 1是时间序列，随机变量 Tnn表示第tte ,t 01 e ,t 0服从参数为 的指数分布。概率密度为 f (t)，分布函数 F (t)均值T0,t 0n0,t 01为 ET n证明过程也要很熟悉三非齐次泊松过程到达时间 的分布略到达强度是 t 的函数