作者：伯特瑟卡斯（Dimitri P.Bertsekas）
出版社：人民邮电出版社
格式: AZW3, DOCX, EPUB, MOBI, PDF, TXT
概率导论(第2版·修订版)试读：
前言
本书对第1版进行了重大改动：对原有材料的编排做了变动,增加了新的材料,页数也增加了25 %.主要的改动如下.
(a) 统计推断方面增加了两章内容：一章是贝叶斯统计;一章是经典统计推断.这两章的主要内容是介绍基本概念,并通过例子加深对方法的理解.
(b) 重新安排组织了第3、第4两章的内容,一方面是为了增加新的内容,另一方面是为了表达的流畅.第1版中的4.7节(二元正态分布)已经删去,但是在本书的网页上还保留着.
(c) 增加了一些例子和习题.
新版的主要目的是为教师提供更多的材料以供他们选材,特别是提供了统计推断引论的题材.注意本书第6~7章和第8~9章在内容上是相互独立的.另外,第5~7章的内容是不依赖第4章的,第8~9章只需要知道4.2~4.3节的内容.因此,利用本书,可以提供下列的课程.
(a) 概率论与统计推断引论：第1~3章,4.2~4.3节,第5章,第8~9章.
(b) 概率论与随机过程引论：第1~3章,第5~7章,加上第4章少数几节.
我们要对我们的同行表示感谢.他们对第1版的内容提出了宝贵的建议,同时对新增材料的组织提供了帮助.特别是Ed Coffman、 MuntherDahleh、 Vivek Goyal、 Anant Sahai、 David Tse、 George Verghese、Alan Willsky、 John Wyatt 等.最后,我们要感谢Mengdi Wang,她为新增的两章提供了习题和图表.Dimitri P.Bertsekas, dimitrib@mit.eduJohn N.Tsitsiklis, jnt@mit.edu2008年6月于麻省剑桥前言概率是用计算概括的常识.—— 拉普拉斯
本书是我们在MIT开设的一门概率论入门课程“概率系统分析”的基础上写成的.
选择这门课程的学生来自全校各个科系,他们背景各异,且兴趣广泛,既有刚入学的本科一年级新生也有研究生,既有学工科的也有学管理的.为此,在教学上我们一直力求表达简洁而又不失分析推理的严格.我们教学的主要目的是培养学生构造和分析概率模型的能力,希望学生既具备直观理解力又注重数学的准确性.
根据这种精神,概率论模型中某些很严格的数学推导被简化处理了,或者只是进行了直观的解释,免得复杂的证明妨碍了学生对概率论本质的理解.同时,有些分析留在每章最后的理论习题部分,它们用到高等微积分知识.此外,为了满足某些专业读者的需要,我们将某些推理过程中的数学技巧展示在注解中.
本书包含了概率论的基础理论部分(概率模型、离散随机变量和连续随机变量、多元随机变量以及极限定理),这些都是概率论入门教材的主要内容.在第4~6章,也包含了一些较高级的内容,教师在讲授的过程中可以选择部分内容,以配合课程大纲的具体需求.其中第4章介绍了矩母函数、条件概率的现代定义、独立随机变量的和、最小二乘估计、二维正态分布等内容;第5~6章较为详细地介绍了伯努利、泊松和马尔可夫过程.
我们在MIT开设的(一学期)课程中,讲授了第1~7章的几乎全部内容,只是略去了二维正态分布(4.7节)和连续时间马尔可夫链(6.5节)两部分.然而,也可以作如下选择：略去课本中关于随机过程的全部内容,这样可使任课教师集中精力介绍概率论的基本概念,或者增加一些感兴趣的其他材料.
本书的主要省略之处是缺乏对统计学的全面介绍.我们引入了离散和连续情形下的贝叶斯准则和最小二乘估计,引入贝叶斯统计理论,但并不涉及参数估计和非贝叶斯假设检验.
本书的习题可以分成三类.
(a) 理论习题：理论习题(用*标明)是教材的重要组成部分.具有数学背景的学生会发现这部分内容是由课文自然拓展而来.我们同时给出了这部分习题的解答.但是,善于思考的读者会发现大部分(特别是前几章的)习题都能自己独立地做出来.
(b) 课程习题：除理论习题外,书中还包含了难度各异的其他习题.这些习题是在MIT的讨论班上经常研究的题目,也是MIT的学生学习概率论的主要方法之一.我们希望学生首先独立地做习题,然后参考标准答案进行核对,这样可以提高他们的学习能力.答案公布在教材的网页上：http://www.athenasc.com/probbook.
(c) 补充习题：有很多补充习题并没有印在书上,但是在本书的网页上可以查到(且越来越多).其中许多习题是MIT学生的家庭作业和考试题目.我们希望采用本教材的教师可以同样地利用它们.这些题目放在网上是公开的,但是题目的答案是不公开的.采用本教材的教师可以联系作者得到这些答案.
我们要感谢许多为本书作出贡献的人.当我们开始在MIT接手这门概率论课程的教学任务时,就开始了写书的计划.我们的同事Al Drake教这门课已经几十年了.他的课程组织经历了时间的考验,其经典教材对各个题材均有生动的描述,还有大量讨论班内容和家庭作业等丰富的材料,我们十分庆幸自己的工作有这样高的起点.特别感谢Al Drake给我们创造了如此有利的起始条件.
我们也要感谢其他院校的几位同事,他们有的利用本书的手稿进行教学,有的阅读过手稿,并对本书的改进提供了反馈.我们要特别感谢Ibrahim Abou Faycal、 Gustavo de Veciana、 Eugene Feinberg、 Bob Gray、Muriel Médard、 Jason Papastavrou、 Ilya Pollak、David Tse、 Terry Wagner 等.
还有MIT的助教们,他们对各阶段的书稿进行了认真的校核,并丰富和完善了习题和解答.通过他们与学生的直接交流,才使得本教材能够适应学生的学习水平.
本书能够为MIT的数千学生在其学业生涯之初提供服务,使我们感到十分欣慰.在本书的成书过程中,他们热心反馈书本中的问题和学习心得.在此感谢他们的反馈与耐心.
最后,我们还要感谢我们的家人在这个漫长的成书过程中对我们的支持.Dimitri P.Bertsekas, dimitrib@mit.eduJohn N.Tsitsiklis, jnt@mit.edu2002年5月于麻省剑桥▶▶第1章样本空间与概率“概率”是一个非常有用的概念,它可以从不同的层面来加以解释.先看下面一幅对话场景.一个病人被送进医院,并施以一种急救的药.病人家属为了了解药的疗效,询问了当班的护士.下面是他们之间的一段对话.家属：护士小姐,请问这种药有效的概率是多少?护士：我希望这种药是有效的,明天就会见分晓.家属：是的,但是我想知道这种药有效的概率.护士：每个病人的病情是不一样的,看情况发展吧.家属：这么说吧,在100宗类似的病例中,你认为有多少宗是有效的?护士(有些不耐烦)：我已经告诉你了,每个病人的情况是不一样的.这种药,对某些病人是有效的,对另一些病人是无效的.家属(继续坚持)：现在请告诉我,如果必须打赌的话,你会押哪一注,这种药是有效还是无效?护士(有些惊奇)：那我愿意打赌,对于这位病人,这种药是有效的.家属(多少松了一口气)：好吧！我再问你,你是否愿意如此押注：若这药无效,你输掉2元钱;若这药有效,你赢1元钱?护士(有些恼怒)：多么荒谬的想法！你是在浪费我的时间.
在这组对话中,病人家属希望用概率的概念同护士讨论药的疗效这种具有不确定性的事件.但是护士的第一反应是对概率这个概念的不认可,或不理解,而家属试图将概率的概念解释得更具体一些.他首先试图将概率解释成偶然事件在多次重复试验中出现的频率,这是最通常的解释.例如,我们说一枚两面对称的硬币,在抛掷试验中以50%的概率出现正面,这么说实际上是指在多次重复抛掷硬币时,出现正面向上的次数约占一半.但是护士似乎不大愿意接受家属的这种想法,护士的想法不是完全没有道理.如果这种药是第一次在医院里使用,或护士从没有过这方面的经验,那何从谈起治愈的频率呢?
在许多涉及不确定性的事例中,用频率解释是适宜的,然而,也有一些事例不宜用频率解释.比如,有一个学者以90%的把握断言《伊里亚特》和《奥德赛》是由同一作者创作的.由于他所讨论的是不可重复的一次性事件,这样的结论只是提供一些主观看法,而与频率无关.所谓概率为90%的把握只是学者的主观信念.或许有人认为主观信念是不值得研究的,至少从数学或科学的观点来看是如此.但是在实际生活中,人们面对不确定性的时候,经常不得不作出抉择.为了作出正确的或至少保持一致的抉择,科学和系统地利用他们的主观信念是一个先决条件.
事实上,一个理智的选择和行动揭示了许多内在的主观概率,然而在许多场合中,作出抉择的人自己也没有意识到他们应用了概率推理.在前面的对话场景中,病人家属以一种隐蔽的方式试图推断护士的主观信念.由于护士愿意以1:1的赔率打赌这种药是有效的,那么在护士的主观概念中,这种药有效的概率至少为50%.如果这位护士接受对话最后提出的赔率为2:1的赌注的话,这说明在护士的主观概念中,这种药有效的概率至少为2/3.
在此我们不去深究概率推理适用性方面的哲学问题,而是事先假定概率论在很多方面都具有实用价值,包括概率只反映主观信念的情形.概率论在科学、工程、医药、管理等领域中有许多成功应用的事例.这许多经验证据说明概率论在应用中是一种极其有用的工具.
本书的主要目的是发掘用概率模型描述不确定性的艺术和提高概率推理的能力.作为第一步,本章要把概率模型的基础结构及基本性质刻画清楚.概率是定义在某些试验结果的集合上的.为此,我们首先应该对集合论作一简介.1.1 集合
概率论大量应用集合运算.我们首先引进相关的记号和术语.
将一些研究对象放在一起,形成集合,而这些对象就称为集合的元素.设 S 是一个集合,x 是 S 的元素,我们将元素和集合的这种关系写成.若 x 不是 S 的元素,就写成.一个集合可以没有元素,这个特殊的集合就称为空集,记作.
可用不同的方法刻画一个集合.若 S 包含有限个元素,我们只需将这些元素列在花括弧中：
例如,掷一枚骰子以后的所有可能结果的集合是{1,2,3,4,5,6},抛一枚硬币的可能结果的集合是{H,T },其中 H 代表正面向上,T 代表反面向上.
若 S 包含无限多个元素,但它们可以像正整数那样排成一列,我们可写成
此时称 S 为可数无限集.例如,偶数的集合是一个可数无限集.
我们也可以以 x 具有某种性质 P 为条件来刻画一个集合,记作{x |x 满足性质 P }.
例如,偶数集合可写成{k |k/2是整数}.类似地,在实数区间[0,1]中的数集可表示成.注意,集合是一个连续集合,它不可能排成一列(章后习题中给出了证明概要).这样的集合是不可数的集合.
若集合 S 的所有元素均为集合 T 的元素,就称 S 为 T 的子集,记作或.若且,则两个集合相等,记作S = T .引入空间的概念是十分必要的.将我们感兴趣的所有元素放在一起,形成一个集合,这个集合称为空间,记作 Ω.当 Ω 确定以后,我们所讨论的集合 S 都是 Ω 的子集.1.1.1 集合运算
集合称为集合 S 相对于 Ω 的补集,记作.注意.
由属于 S 或属于 T 的元素组成的集合称为 S 和 T 的并,记为.既属于 S 又属于 T 的元素组成的集合称为 S 和 T 的交,记成.这些集合可用下列公式表达:
有时候我们需要考虑几个甚至无穷个集合的并和交的问题.例如,如果每一个正整数 n 都确定一个集合,则图1.1 维恩图的例子
两个集合称为不相交的,如果它们的交集为空集.更一般地,几个集合称为互不相交的,如果任何两个集合没有公共元素.一组集合称为集合 S 的分割,如果这组集合中的集合互不相交,并且它们的并为 S.
设 x 和 y 为两个研究对象,我们用(x,y)表示 x 和 y 的有序对.我们用表示实数集合,用表示实数对的集合,即二维平面,用表示三维实数向量的集合(三维空间).集合及其运算可用维恩图形象化表示,见图1.1.1.1.2 集合的代数
集合运算具有若干性质,这些运算性质可由运算的定义直接证得,举例如下：
下面给出的两个公式就是著名的德摩根定律：
现在证明第一个公式.设,这说明,即对一切 n,.因而,对每一个 n,x 属于的补集,即.这样,我们得到.反过来包含关系的证明,只需将我们的论证从后面往前推即可.而第二个公式的证明完全类似.
试读结束[说明：试读内容隐藏了图片]