概率论与统计书目推荐.docx

1、概率论与统计书目推荐六，概率统计课程科目与教材推荐好，现在终于到了与Econ，Finance 关系最紧密的概率统计部分。关于概率统计的重要性我实在不想再强调了，不过需要再说一句的是，很多同学觉得学计量，学Finance很多东西看不懂，迷茫，那就是因为你概率统计没学好；甚至还有很多论调说什么Idea最重要，数学不重要，对于这种说法，我想说，别说Econ，Finance，连数学都是Idea最重要，任何学科都是Idea最重要的，但是你连基本的知识，研究工具都没掌握，都一窍不通，何来资本去讨论什么Idea好了，语调有点激烈，不想多说了，这个问题说多了没意思！下面我概率统计分开讲。1概率：Basic P

2、robability Theory这个很重要，虽然不是基于Measure-Theory的，但是是你明白概率是什么东西的基础。国内数学系本科一学期的概率论的内容基本跟这边Undergraduate的Honors Course for Probability差不多，但问题是很多学校的老师不怎么认真在讲的时候。比如我所在学校的数学系，当时那个老师真是不咋地，上课光在那闲扯淡，证明一点都不讲，而且课堂过大，整个数学院所有不同专业的学生一起在上课，起码100多号人，效果可想而知。我不知道别的学校情况咋样，但是我本科所在学校的数学系还是国内比较不错的，连这里况且如此，很多地方可能也好不到哪去。当然，这只是

3、我个人的瞎猜想，没有任何证据。这门课的主要教材是名家Durrett的The essentials of Probability ，我想很多人都知道他的另外一本Graduate Probability教材Probability：Theory and Examples，现在美国这边的学校几乎都用这本书作为Math PHD Probability课的教材。顺便说一句，Durrett是超级牛人钟开莱（中国人，虽然是美国公民）的学生，好像我记得他在一本书里管钟开莱叫做Academic Godfather，真是牛到无极限啊。这门课Durrett这本书所有内容全讲，题目几乎全做，这样使得学生Basic Pr

4、obability的基础相当好，Probability的Intuition很不错，从而在后面学习基于Measure Theory的Probability跟Stochastic Process时，不至于迷失在Technical Details中。不过这本主要是给Math的学生的，我自己觉得Casella & Berger的Statistical Inference前面的Basic Probability部分也是超好无比，而且这是一本数理统计的教材，多了很多Distribution的东西，从而给你学数理统计打下一个坚实的基础。并且，这本书习题量大质量又好，而且网上有Solution Manual，

5、所以是非常好的习题书。我自己其实没有上这门课，不过我们计量I（美国这边计量I其实是概率论与数理统计的内容，不过有经济系的特点罢了）当时教材是Cassella & Berger，于是我就把前五章的习题都给做了，真是受益匪浅。另外，国内复旦李贤平的那本概率论教材也是非常好的。个人建议：经管类毕业的同学我想都有一点概率论基础了，所以个人觉得不必要专门花一学期修这门课，但是我想自己自学或者在上计量I的时候将基本内容再过一遍，查缺补漏是有必要的，多做点题目，最好能将Casella & Berger前面五章的题目做完，然后适当的参考下Durrett当有概念不清晰的问题时，这样基础就打的比较牢了。Casel

6、la & Berger国内有影印版，习题答案网上可以找得到。至于原来读数学的同学，请根据你原来学的深度自行决定。：Measure-Based Probability-Probability I这门课跟下面的Introduction to Stochastic Process-Probability II通常在美国这边是一年的Core Course Sequence 给那些将来可能做Probability的Math PHD学生。Probability I的内容一般包括（以我所在的学校为例）以测度论为基础的的概率基本概念，经典的极限定理（LLN于CLT for Independent Sequen

7、ce）, Random Walk，Conditional Expectation,有的还会加上Discrete Time Martingale Theory。这门课的先修课为Real Analysis或者Measure Theory，你必须对Measure and Integration的内容很熟才行。这门课我想不论你是做微观，宏观，还是计量还是Finance基本上最好都要学，毕竟现代经济学Uncertainty是核心，从而概率的应用极为广泛。微观里现在做的Decision theory, 关于Imperfect Information的很多东西都需要很好的概率论基础，上周跟一个要跟我们这里一

8、个微观牛人做的同学见面讨论，他说那个Professor的Paper里就用到了Martingale Convergence Theorem，虽然不是很深，但是一个好的Probability基础还是很必要的；宏观里面常用的Stochastic Optimal Control，Stochastic Dynamic Programming；还有更不要提Finance了，如果没有一个好的概率基础，根本连现在入门的Asset Pricing教材你都看不懂，比如Cochorane的Asset Pricing，更别说Duffie的Dynamic Asset Pricing跟Merton的Continuous-

9、time Finance了；计量理论我就更不说了，它本来就是研究一些有经济数据特点的统计理论的，想想Time Series Econometrics里的Unit，Cointergration吧，那里Asymptotic distribution的推导都是基于Functional CLT的。我就不多说了，总之，我们这里理论做的比较好的同学，几乎都有一个很好的Probability基础。如果你Measure Theory掌握的好，学这门课会舒服很多，当然，你依然需要花费巨大的时间跟精力。我这门课上了两次，一次是在Operation Research系里上的，讲课的是个俄罗斯裔的老师，课讲的极好，真

10、的算是领教了Russian的数学水平，一个字，牛！光作业就给我们布置了14次，每次57个题目，一学期下来做了快一百个题目，想象一下，Graduate Course，每个题目光写有的时候就要2页多纸，学的时候真的是痛苦之极，不过学完之后真的是感觉收获特别多。我经常跟OR几个同学讨论问题，他们都是国内数学系出身，有的都是在这边的学校读过数学然后再转到这边来的，他们对作业量之大也很头疼，不过我们都很觉得那个老师确实讲的好，没得说。一个搞笑的是，这个老师的Webpage上写着，“对于那些不想完成作业的同学请点这个链接”，然后等你点了后就到了另外一个Web上，上面是他练空手道的一张照片，而且照片的光线有

11、问题，他两眼发的都是绿光，恐怖啊，呵呵！由于这个课老师为了照顾一些对Measure Theory不是很熟的同学，于是他花了快一半的时间又把Measure Theory讲了一遍（这部分内容他主要用Billingsley的Probability and Measure里面的测度论部分），因此后面概率的东西只是讲到了CLT，后面没有讲Martingale，而且LLN跟CLT讲的不是特别深入，只是证明了IID情形下的定理，并没有证明Independent but not Identical Distribution的情形，而且我也想学多一点，因此我就去上了Math PHD Probability Co

12、re Sequence的第一学期的课（我本来想着上了OR这个然后直接去上第二学期的Probability II就算了的）。总算是把这个搞定了。总的来说，Probability的好教材是非常之多，其中有Durrett,Probability: Theory and Examples，Williams,Probability with Martingales，Billingsley,Probability and Measure，Resnick A Probability Path ，Jacod & Protter，Probability Essentials, Dudley，Real Analy

13、sis and Probability, Shirayev，Probability，以及牛人钟开莱的A Course in Probability这些教材基本上都是包括了Probability I的测度论为基础的的概率基本概念，极限定理与Probability II的Stochastic Process的内容，所以基本上每一本都可以作为这一Sequence的教材，不过不同的教材特点还是不一样的。Billingsley是公认的好教材，特点是全，既有Measure Theory的完整介绍，又包含有直到Brownian Motion的一年Probability课的所有内容，但有个问题是体系安排很怪异

14、，不适合从头看到尾，事实上我们是从Chp2，Chp3开始学，然后穿插上Chp1的内容，然后再过渡到后面的Probability部分的。这本书的行文也是Informal式的，很多重要定理的叙述证明都是在字里行间完成的，并不是定理证明式的写法。我个人经验是不适合自学，如果有老师教课用这本书，那真的是再好不过了，不过如果没有老师教，最好把这本作为参考。这本书的课后习题非常好，对于比较难的题目后面附有简要的答案。做Econ的人好多Paper后面在涉及Probability的时候引用的都是这本书（看看White的Asymptotic Theory for Econometrians），我猜他们当时学概率

15、用的都是Billingsley这本教材，呵呵。Durrett的教材是给Math PHD的标准教材，全书主要讲概率，将Measure Theory的主要结果附录在书的后面，以供参考，因此，学这本书必须有扎实的Measure Theory基础。现在国内这本书刚出了影印版（Billingsley现在也刚处影印版，痛啊，这两本书花了我快200刀就，因为我修课的时候国内还没有影印版，唉），忘记上面是谁做的序了，讲了一个故事，说是有个Math PHD学生放假还是怎么着出去玩的时候，身边就带了这么一本书，然后这个学生现在美国是美国一所着名大学的Professor了已经。抛开故事真假不说，我对这种传说式的故事

16、一点都不信，搞得好像背着宝剑，身怀绝世武功，天生的武功奇才一样，不知道是不是武侠小说看的是不是太多了（实际上，我的武侠小说看的是巨多无比）。Durrett这本教材讲的虽然挺难，但只是一些早期Probability结果的总结，离着研究前沿还差的很远。所以我觉得序里的故事是想说明把这本书学透基础就会打的很牢固，但是这种故事容易对人形成误导，起码我记得我在未学Measure Theory跟Probability I之前也看过很多这种小故事，看完后热血沸腾，老想着一口气吃成个胖子，但是事与愿违，反而事倍功半，其实最重要的还是下功夫好好学。当然，这只是针对我个人而言，别的同学可能比我要理智的多。闲话不多

17、说，Durrett这本书Probability I的内容讲的比较深，其中Random Walk作为单独一章进行深入透彻的讲解，我想Random Walk做Econ的同学应该很熟吧，这就是Unit Root Process了。其他书唯一这样做的就是钟开莱了，我想Durrett这样做跟他是钟开莱先生的学生有关系吧应该。Durrett这本是我们这Probability I&II这个One Year Sequence的主要教材，老师没有自己的Lecture Notes，会把这本书从头讲到尾，至于为什么我就不多说了。下面想说牛人钟开莱的书了，这本书如前面个人背景里面所述，我在国内的时候上那个测度论因为很

18、多问题不明白所以就找了这本书来看，结果受益匪浅。忘记在哪里看过了，说这本书其实是将前苏联数学家对基于测度的概率论，对Independent情形下Limit Theorem的研究的一个总结。也就是说，这可以说是一本现代概率论教材的雏形，虽然在这之前也有很好的教材，但是正是这本书以及钟开莱在Stanford教授这个课程的经验，导致了现在大部分学校的第一门概率Core Course所教授的主要内容为Independent情形下的Limit Theorem。实际上，我觉得在Limit Theorem定理的证明上，这本书依然是讲的最好的，不但严格，而且清晰明了，反而现在很多新出的概率书讲的迷迷糊糊，要吗

19、不严格，要么太Technical。不过这本书大量集中于Limit Theorem的证明，作为Probability II主要内容的Martingale，Markov Chain讲的很少（当然，我觉得依然讲的很好，特别干脆利落），对Ergodicity，Brownian Motion更是一点都没涉及，他前言里好像说了这些应该作为第二门课的内容我记得。所以，这本书是加强版的Probability I教材，但是不能作为Probability II的教材。Shirayev的书是一本典型的Russian数学书，内容跟Durrett基本上一样，只是前面加了一章基本的Probability and Stoc

20、hastic Process，后面用两章讲了Stationary Process，少了对Brownian Motion的介绍。这本教材证明上清楚明了，课后习题很多是一些重要结果，是很好的教材。而且对Stationary Process的讲解特别好，算是奠定了Time Series Analysis的一个数学基础。想做Time Series Analysis我想这是一本必备的参考书。Williams的书短小精悍，讲完Probability的基本内容立即进入Martingale的学习，真的是又快又准，毕竟Martingale在现代Probability甚至是Econ，Finance等等都起着关键的

21、作用。Resnick的书是我上OR那个Probability的教材，因为Resnick本身就是在OR系，所以他写的教材就稍微简单点，很多结果都给出了证明，不象是前面那基本为Math PHD准备的书很多结果你自己要证明，有的时候花很多时间。这本书的内容最后一章讲了Martingale，前面是Measure Theory跟Probability I的内容，看起来相对其他几本要稍微容易点，很多学校开给Engeering，Statistics或者Finance学生的Probability课都用这个作为教材。Dudley的书Probability部分讲的内容很多，从经典的Limit Theorem到Ma

22、rtingale，到Brownian Motion，Ergodicity甚至还有一些Weak Convergence的内容，由于这本书整合了Real Analysis跟这么多的Probability内容，深度上感觉稍微差一点。Dudley本人在Empirical Process方面是奠基人之一，他1978年左右的几篇Paper给出了处理Empirical Process不Measurable一种处理方法，奠定了他的地位。他本人是MIT的教授，这本书是MIT概率论的教材，这门课的内容你可以在MIT Opencourse上查得到，上面有一些讲义跟习题答案，可以用来作为参考。Jacod & Prot

23、ter我没读过，把它列出来是因为这本书近年来有很多地方都在用，更重要得是这两个人虽然都是数学出身，但是现在都在做Finance得东西，而且都是名家。Protter是OR的Professor，我想很多做Finance的人都知道，他跟Jarrow有一篇关于Term Structure的Paper影响很大，是用Diffusion Process作为Model的。而Jacod则是法国巴黎“大的数学系教授，他跟Princeton经济系的Professor Ait-Sahalia（Review of Financial Studies的上一个三年的Editor）合作了一系列关系Continuous Tim

24、e Process的算是金融计量领域的文章。当然，在这边Finance领域主要还是在Business School，但由于Merton，Duffie等人对连续时间模型的使用导致了很多原来做Probability的数学出身的人都在搞Asset Pricing，不过他们管这个叫做Financial Mathematics，Financial Engeering等等，国内山东大学的彭实戈搞得所谓的金融数学其实就是这个。结果现在在搞Econ，Finance的人与这批以前数学出身的人之间有了巨大的分歧，前者认为后者摆弄数学，没有Intuition，没有Idea；而后者认为前者数学不行，模型用的不严格。于

25、是就各搞各的，各自形成了一个圈子。个人认为两者都有道理，前者很多数学确实不行，模型用的不是很好，统计工具掌握的也不好，于是Journal of Finance上的Paper非常多的计量用的不对，或者是为了一个比较Significant，比较Interesting的结论故意这么做。其实很多结果，如果你用正确的或者比较严格的计量方法再做一遍，根本就不对，从而得出的Interesting的结论的可信度大打折扣。但是由于这些人已经形成了一个圈子，他们之间互相接受这种做法，所以文章还是能发，研究还是能做。说道这里，顺便说一下，记得以前在国内看到有人把Journal of Finance(JF), J o

26、f Financial Economics(JFE) 跟Review of Financial Studies（RFS）给排了一个顺序，说什么这个比那个好，那个比这个好。我猜那个排法应该是按照所谓的影响因子或者引用率之类的来排的，但是个人觉得这种东西没什么意思，这三个Journal都是Finance的Top Journal，如我前面所说JF的文章数学水平，计量工具的严格性要差一点，但是这样导致了结果很Interesting，而RFS是数学应用深一点，计量工具用的严格，但反而结果不那么Interesting。如此一来，使得JF的引用率要高于RFS，但你能就说前者比后者好吗如果你真的这么想，那比较

27、一下Econometrica上文章的引用率跟其他Journal然后再来回答这个问题。实际上，在美国这边的学术圈子里也存在争论，有人觉得JF好一些，有人觉得RFS更好一些，所以这也是没办法的事。但是我觉得做事要严谨一点，不要对别人产生误导，所以当你说JF比RFS好，或者RFS比JF好的时候，我自己就会加上，“我觉得“，或者“按照引用率，按照工具使用的严格程度来说“等等的修饰词以表明你这样判断的根据。接着上面，反过来讲，后者确实是Intuition比较差一点，由于Econ比较特殊的学科性质，你用的严格却没有Interesting的结论，模型很好，但是结论跟以前一样，这样就没什么太大的意义。拿彭实戈

28、老师做的Backward SDE来说，数学上确实很重要，提供了一种新的处理SDE的方法，而且实践上也可以应用；但是拿到Finance理论上来看，就是提供了一种解B-S模型的方法，而Finance理论则是再探讨B-S模型本身的问题，所以这个研究对于Finance理论则基本上没什么意义或者意义不是很大。从这里可以看出，学术研究某种程度上也是市场化，需要有人跟你一起开拓，有人欣赏你的东西才行，要不然你自己认为的再好的东西也卖不出去。好了，该结束这一部分了，太长了。这部分介绍的书太多了，说一下我的学习过程。我个人由于是修课所以主要用了Billingsley的教材，基本上通读了算是，钟开莱的书我也基本上

29、看完了，看这个是因为LLN，CLT 的证明讲的好。Shirayev我精度了他讲Stationary Process的两章，及Martingale那一章的部分内容。Durrett我没有精读，因为上面的好多证明都在别的书上认真推导过了，而且我下面会再去上那个一年的Core Course Sequence，这次完全讲这本书，所以打算把它精度一遍。其他几本Williams, Resnick , Dudley都只是在看别的书产生问题时候去找相应的部分做了参考。还有就是修完课后我花了几天时间把它们浏览了一下，以对照一下感觉。个人建议：可以用Billingsley，Durrett，钟开莱，Shirayev中

30、的任意一本作为主攻教材，尽量完成大部分的课后习题，很多题目网上应该可以搜索到答案。这四本书国内都已经有了英文影印版了，可以省钱了又。其他几本Williams, Resnick , Dudley可以作为参考，Williams网上有电子版，而Dudley国内有英文影印版，Resnick就不知道了。：Introduction to Stochastic Process-Probability II这门课主要内容是Discrete time Stochastic Process,，讲Martingale, Markov Chain, Stationary Process and Ergodicity,

31、 Brownian Motion(BM)，有的老师还会加上点Introduction to Itos Integral with respect to BM。我这学期上这个课的老师是在概率领域里面一个超级牛的Russian老头，他教的东西太多了。除了上面的内容，他还讲了Continuous-time 下的Martingale跟Markov Process，甚至包括了Stochastic Integral最General的情形即对于Semi-martingale的积分，所有这些内容加起来一般都是分两门课来讲的，因此作业做的我很痛苦。不过痛苦完后感觉收获还是很大的。由于他这种教法是非常规的，并不是

32、Probability II应该包含的内容，因此学这门课我觉得还是以标准内容为主，打好基础，这样以后要用到比较深的概率理论就可以自己学了，因为后面你要用到的可能都是近年才得出的结果，这种内容开课讲的好像不多，即使有也跟老师的研究方向有关了。鉴于前面已经将众多概率教材做了详细介绍，这里就简要一谈就可以了。Billingsley的书把Probability II里面的内容都包含了，但不是特别成体系，都是分散开来的，所以不太适合作业主要教材。不过他最后一部分分两章讲的General Theory for SP跟BM是非常好的，前面一章详细的介绍了给出一个Finite Distribution然后Co

33、nstruct一个SP的方法，也即Kolmogrov Consistency Theorem，给SP的存在性奠定了一个基础。Durrett是标准的教材，因为将Measure Theory作为附录，从而腾出了大量空间详细介绍SP，是非常好的现代教材。钟开莱这方面的内容很少，但是他最后一张对Martingale跟Markov Process的介绍切中要害，理解深刻，我觉得非常值得一读。Shirayev内容跟Durrett差不多，只是少了BM的介绍，但是多了Stationary Process的详细讨论。Williams, Resnick , Dudley都有一些相关的介绍，但不如前面基本书是系统的介绍，所以