概率论精要回顾与补充.docx

概率论精要回顾与补充.docx

《概率论精要回顾与补充.docx》由会员分享，可在线阅读，更多相关《概率论精要回顾与补充.docx（15页珍藏版）》请在冰豆网上搜索。

概率论精要回顾与补充

龚光鲁,钱敏平著应用随机过程教程–及其在算法和智能计算中的应用

清华大学出版社,2004

目录

前言

符号说明

第1章概率论精要回顾与补充

1基本框架与典型分布

1.1概率

1.2随机变量

　1.3d维随机向量

1.4独立性

　1.5Chebyshev不等式

　1.6基本极限与基本极限定理（大数定律与中心极限定理）

　1.7典型分布

1.8次序随机变量的分布

2条件概率，条件分布，条件（数学）期望

2.1条件概率

　2.2条件分布

　2.3条件（数学）期望

2.4期望与方差的Wald等式

3统计简要

　3.1用样本作矩估计

　3.2最大似然估计

　3.3线性模型的最小二乘估计及其推广

习题１

第2章随机样本生成法

　1　一维随机数

　1.1均匀随机变量的计算机模拟

　1.2分布函数F（x）的随机数

1.3正态随机数

1．4Poisson随机数

1．5混合分布随机数

1.6VonNeuman取舍原则

1.7Gamma随机数与Beta随机数的生成

2多维随机数

2.1连续型多维随机数

2.2离散型多维随机数

2.3多维正态随机数

2.4多维Beta随机数（Dirichlet随机数）的生成

　3．附录－用Matlab生成随机数

3．1Matlab语言的简单提示

3．2　Matlab生成随机数的语句

习题２

第3章随机过程的一般概念与独立增量过程

1一般概念

　1.1随机过程与有限维分布族

1.2独立增量过程

2Poisson过程与复合Poisson过程

　2.1事故申报次数的概率模型与Poisson过程

2.2Poisson过程与指数流的关系

　2.3与指数流有关的一些随机变量与分布

2.4常见的推广

2.5复合Poisson过程

3Brown运动（Wiener过程）及其函数

　3.1历史背景与物理模型

　3.2Brown运动（数学模型）

　3.3Brown运动的简单性质

　3.4Brown运动的反射原理及首达性质

3.5与Brown有关的几个简单随机过程

　3.6漂移Brown运动

3.7几何Brown运动

4简单随机徘徊

4.1双侧吸收壁的吸收概率

4.2随机徘徊的对称原理

　4.3随机徘徊的首达时刻

　4.4简单随机徘徊与首达时

　　习题３

第4章更新现象及其理论

1Stieltjes积分

2更新过程的概念

　2.1作为Poisson过程推广的更新过程

　2.2更新函数的更新方程

2.3年龄与剩余寿命

3更新定理与更新次数的正态近似

　3.1更新定理

3.2更新过程的正态近似

3．3Blackwell定理与主更新定理

3.4更新间隔为正整值随机变量的更新过程

4更新过程的变种模型

4．1交错更新过程

　4．2延迟更新过程

　4．3带酬更新过程

5再生过程与其相系的更新过程

　5．1再生过程的概念

　5.2与再生过程相系的更新过程

　5.3比例极限定理在再生过程中的应用

5.4存储模型的一个例子

6Erlang更新过程

6．1Erlang更新过程的定义

　6．2Erlang更新过程的矩母函数

　　习题４

第5章离散时间的Markov链

1　Markov链的概念

1.1定义与Markov性质

　　1.2概率转移矩阵

1.3时齐的Markov链

1.4Markov链的例

2Markov链的状态分类

２．１　首达分解,

步转移概率的递推式，矩母函数,常返性

２．２常返性再访与Markov链的基本结构

２．３　平均回访时间与正常返性

3Markov链的转移概率的极限与不变分布

３．１不变分布与平稳Markov链

３．２有限状态Markov链的的不变分布与极限分布

３．３转移矩阵的平均极限

4Dobrushin不等式与指数收敛性

4.1Dobrushin不等式

4.2Dobrushin收敛定理

5与常返态相系的延迟更新流,互通常返Markov链的极限定理

５．１与常返态相系的延迟更新流

５．２互通常返链的极限定理

6停时与强Markov性

６．１停时

６．２强Markov性

7禁忌概率与首达分布

７．１禁忌概率

７．２首达时与首达分布

７．３禁忌概率,首达分布与平均首达时间

8可逆Markov链与可逆分布

８．１　可逆Markov链

８．２例

８．３　可逆初分布存在性判别法

9分支Markov链（Galton-Watson简单分支过程）

　习题５

第6章连续时间的Markov链（Q-过程）

1时间连续的Markov链及其转移矩阵

１．1定义与等价性叙述

１．2连续时间的Markov链概率转移矩阵

１．3连续时间的时齐的Markov链

2Poisson过程与复合Poisson过程再访

２．１Poisson过程作为Markov过程转移矩阵与转移速率阵

２．２复合Poisson过程的转移矩阵与转移速率阵

3由转移速率矩阵确定的连续时间的Markov链

３．１Kolmogorov方程及Master方程

３．２转移速率矩阵的概率含义

4　连续时间的Markov链的极限分布

４．１连续时间的Markov链的转移矩阵的平均极限

４．２连续时间的Markov链的极限分布

5　连续时间的Markov链的转移矩阵

的不变分布

５．１连续时间的Markov链的转移矩阵

及其嵌入链的不变分布

５．２　连续时间Markov链的遍历极限

５．３　对称的与可逆的连续时间的Markov链

6　例

　６．１　连续时间分支过程

６．２　有限格点上的Ising模型与Gauber动力学

６．３　生灭类过程

６．４　系统与有效度

7连续时间的Markov链的模拟与加速收敛

７．１　连续时间的Markov链的模拟

　７．２加速收敛的均匀化方法

　　习题６

第7章排队过程简介

1排队过程的描述

１．１排队系统

１．２排队系统的一般框图,输入过程与输出过程

１．３可逆性引理

2　最简单排队过程—Markov排队过程

　２．１最简单的排队过程--M/M/1系统

２．２N个服务员的简单排队过程—M/M/N系统

２．３　序贯排队与排队网络系统

２．４M／M／∞排队系统

3排队系统的一般概念

３．１关于排队论的一般注记

３．２M／M／N消失制

３．３M/G/1排队系统

３．４G/M/1排队系统

4半Markov过程

４．１　半Markov过程

４．２　半Markov过程的渐近性质

5有限位相型分布（PH-分布）

５．1背景

５．2PH分布（有限位相型分布）

５．3　离散位相型分布

５．4　PH分布类的封闭性

　　习题７

第8章Markov链MonteCarlo方法

１计算积分的MonteCarlo方法与采样量估计

１．１用频率估计概率来计算积分的MonteCarlo方法

１．２用样本函数的平均值估计期望来计算积分的MonteCarlo方法

　１．３减少方差的技术

2　Markov链MonteCarlo（MCMC）

　　２．１Gibbs采样（Gibbssampler）

　　２．２按有限状态空间上分布

作随机采样的Metropolis-Hasting方法

２．３通过条件分布对分布

作随机采样的Gibbs方法

2.4MCMC应用于Bayes参数估计

3　模拟退火

３．１模拟退火方法的基本想法

３．２有关模拟退火算法的非时齐马氏链的理论背景

第9章以图像信息为背景的随机场,迭代Markov系统

1有限格点上的Markov随机场与图像

１．１有限格点上的Markov随机场

１．２相邻系统Gibbs随机场--

邻位势Gibbs场

１．３图像处理的随机过程方法的思路原则简介

１．４　Gibbs分布的样本的Gibbs采样法

１．５Gibbs分布的模拟退火

2时间离散状态连续的Markov链

２．１概率空间再访

２．２时间离散状态连续的Markov链

２．３概率转移核

２．４时齐的连续状态Markov链

２．５例

２．６

上函数

的最小值位置与模拟退火算法

２．７　Dobrushin不等式.指数遍历性与收敛性

3随机迭代函数系统

３．1局部相似性的基本想法

３．2轮廓图全体组成的距离空间

３．3灰度图与随机迭代函数系统

4.统计中的Bayes方法与图象的处理,分割与重建

４．１　Bayes统计要义

４．２　Bayes方法在图像中的应用与观测量不是状态变量时的参数估计

　习题９

第10章隐马氏模型及其应用

１熵与相对熵

１．１离散分布的熵与相对熵

１.２分布密度的熵与相对熵

２隐Markov模型

２．１一个实例

２．２隐Markov模型的描述

２．３隐Markov模型的等价表述

２．４非线性滤波作为隐Markov模型的特例

２．５　在应用中研究隐Markov模型的主要方面

３解码问题--已知模型与观测时状态的估计

３．1出现当前的观测的概率

的计算

３．２解码问题--已知模型

与观测

时状态

的估计

４学习问题-由观测估计模型参数

４．０　状态链样本已知时的参数的频率估计

４．１　模型参数估计的EM算法的思想

４．２　隐Markov模型中M–步骤的解

５关于隐Markov模型的评注

５．１隐Markov模型包容度大有非常宽的应用面

５．２隐Markov模型的更为一般的形式

６隐Markov模型的应用例子梗概

６．１语音的机器识别

６．２脱机手写体汉字识别

６．３DNA序列片断装配

　　习题１０

第11章二阶矩过程,Gauss系与时间序列

1全体方差有限的随机变量构成的Hilbert空间

1．１实值情形

1．２复值情形

2随机变量族的均方信息空间与滤波

　　2．１均方信息空间

　　2．２滤波问题

　3Gauss系与投影再访

　　3．１　定义,等价条件与特性

　　3．２　Gauss过程的投影--线性滤波

　　　3．３　复Gauss过程

3．４　Gauss过程的特征泛函

4平稳性与宽平稳性

　　4．１　平稳序列与宽平稳序列

4．２　渐近平稳序列与渐近宽平稳序列

4．３　平稳增量序列

5ARMA模型

　　5．１　ARMA（p,q）

　　5．２　AR模型的定阶与偏相关系数以及模型参数的估计

　　5．３　MA模型的定阶与参数估计

6　ARCH模型

　　6．１　ARCH（p）

　　6．２　ARCH（p）的参数估计

6．３ARCH