浅谈贝叶斯统计的应用.docx

《浅谈贝叶斯统计的应用.docx》由会员分享，可在线阅读，更多相关《浅谈贝叶斯统计的应用.docx（11页珍藏版）》请在第一文库网上搜索。

1、浅谈贝叶斯统计的应用贝叶斯统计是英国学者托马斯贝叶斯在论有关机遇问题的求 解中提出一种归纳推理的理论，后被一些统计学者发展为一种系统 的统计推断方法，称为贝叶斯方法。本文旨在通过实际的简单例子使 大家对贝叶斯统计方法有更直观的认识并对其理念有更深刻的理解。案例一通过贝叶斯推理来辨别“买东西的人和随便逛逛的人商店里的售货员最关心的问题莫过于这位顾客究竟是来买东西 的，还是随便逛逛而已。所以对于店员来说，通过顾客的行为来揣 测他们的真实想法，是一项重要的本领。下文将具体介绍将店员的 判断方法数值化的方法，该方法恰巧适用贝叶斯统计学。进而言之， 通过该事例，我们也可以弄懂贝叶斯统计学的概念。第一步：

2、通过经验设定“先验概率假设一个场景：面前有一位顾客，此时你需要做的是，推测该顾 客究竟是来买东西的人，还是随便逛逛的人。只有做出正确的判 断，才能采取正确的接待方法。推算的第一步:将两种顾客(来买东西的顾客、随便逛逛的顾客) 的比例进行数值分配。这句话的意思是：假设面前的这位顾客一定属 于两种中的一种，以此为前提，该顾客为第一种或第二种的可能性分 别为多少？将这个可能性用数值表示出来。在贝叶斯统计学中，这种“某种类别的概率(比例)有一个专有 名词，叫作先验概率。事前的含义是：在获得某项信息之前。此处的信息是指附加的状况，比如顾客忽然过来询问。通过过 来询问这一信息，可以对顾客类别的推算进行修改

3、，而先验概率 是指，在过来询问或不过来询问的情况发生之前进行的概率判断。 根据自己的经验,每5位顾客中就有1位是来买东西的,也就是说， 这一部分顾客占全体的20% (0.2),那么剩下随便逛逛部分的比例 便为80% (0.8)o这两个数字，便是两类顾客的先验概率。在这个事例中，在观察面前顾客的行为之前，判断该顾客是属 于概率0.2的买东西的人，还是概率0.8的随便逛逛的人，这个过程 被称为某一类别的先验分布，如图1所示。A买西人 A来东的B 随便逛逛的人0.20.8图表中的大长方形被分割为两部分，两部分的面积所占比例分别 为0.2和0.8,这正是分割时的诀窍。本文将在后面逐渐阐明：面积 的概念

4、在贝叶斯概率的计算中，起着重要的作用。该图可以理解为：将整体分为两种不同的情况。这意味着，自己 所处的环境为A或B中的一个，A情况下的顾客为来买东西的人， B情况下的顾客为随便逛逛的人，但不知道究竟是A还是B。只是 先在头脑中构筑一个大致的印象。哲学上将这种见解称为可能世界， 在进行逻辑推算或概率推算时，采用这种划分互不相同的可能性的 思维方法，有利于整理思路。在这里将长方形的面积设定为0.1和0.4,两部分的比例依然为1 : 4,这与设定为0.2和0.8时的比例相同。那么，为何要将面积设置为 0.2和0.8呢？这是因为，用数值来计算概率的情况下，需要在多种 可能性中，选取将各部分概率相加，总

5、和为1的那一种，这种情况 被称为“标准化条件。第二步：设置发生向店员询问事件的条件概率在这一步，我们要做的是：为来买东西的人和随便逛逛的人 这两类顾客分别设定“向店员询问的概率。如果没有相关经验和数据 作为支撑,这项工作是无法完成的。上一节讲到，即使没有相关经验， 也可以设定先验概率。但此处的各个分类的行动概率，必须是基于 一定的经验、实证、实验的数值。图表中的数值，是为了计算简便而设定的，并非真实数据。类别过来询问的概率不过来询问的概率来买东西的人0.90.1随便逛逛的人0.30.71.20.8从图表中可以看出，来买东西的顾客向店员询问的概率是0.9,而随便逛逛的顾客向店员询问的概率只有0.

6、3o需要注意的是：图表从横向来看，0.9+0.1=1, 03+0.7=1,两行都 满足标准化条件；而纵向来看，0.9+0.3H,也就是说并不满足标准化 条件。具体分析一下：横向的一行，表示某一类别的顾客可能采取的 两种行动。比如第一行数字，表示“来买东西的人向店员”询问或不 询问这两种行为，顾客有可能询问，也有可能不询问，最终采取的 行动一定是其中之一，没有第三种可能性。而纵向来看，第一列数字 表示，”来买东西的人向店员询问的概率为0.9, 随便逛逛的人向 店员询问的概率为0.3,两个数字相加之和并不等于Io这是因为， 对象范围包含了两个不同类别的顾客，并且也没有涵盖所有的行动。 图表中的数字

7、，表示“某一特定类别采取各种行动的概率，这在统计 学中被称为条件概率。用“原因的概念来解释，即在原因明确的情 况下，某一类别采取各项行动的结果概率。将两个类别的顾客，进一步按照询问和“不询问的条件来分类, 那么前文所述的两个大类别又可以细分为四个小类别，分别是：来 买东西的人询问店员”随便逛逛的人询问店员来买东西的人不询 问店员随便逛逛的人不询问店员，如图表所示。来买东西的人随便逛逛的人0.20.8买西人问员 T 来东的询店随便逛逛的人询问店员随便逛逛的人不询问店员J来买东西的人不询问店员一共存在四种可能性：来买东西的人询问店员（左上区域）、来 买东西的人不询问店员（左下区域）、随便逛逛的人询

8、问店员（右上 区域）、随便逛逛的人不询问店员（右下区域）。0各个区域所表示的 概率与每个长方形的面积相等。长方形的面积可以用乘法求得，如图 表所示。A 0.20.9 (0.18)C 0.803 (0.24)D 0.8 0.7 (0.56)I0.20.8lB0.2 0,1 (0.02)第三步：通过观察到的行为，排除不可能的情况下面，让我们进一步进行推测。作为一名店员，现在你面临的情况是：顾客上前来打招呼。这也 意味着，你观察到了顾客的某一种行为。这为可能世界又增添了一 条信息。这条信息的内容是：不询问店员的可能性消失了。上一节中提 到，在顾客类别包括来买东西的人和“随便逛逛的人两类，顾客的 行为

9、包括“询问和不询问两类的情况下可能世界共分为4种。 在现实世界中，因为已经观察到了询问这一行为，因此不询问这 一行为覆盖的世界就不复存在了。这意味着，“可能世界受到了限制o 下面我们借助图形来理解这一问题。0.20.8C 0.8 030.3因为“可能世界变成了 2个，从而我们可以推测获得新的数值。 在一部分可能性不复存在，而一部分可能性又在现实中受到了限制的 情况下，会发生些什么呢？这正是所谓的一一在推测中“概率发生变 化。第四步：寻求来买东西的人的贝叶斯逆概率上一步，由于观察到询问这一行动，使得“可能世界被限定在 两个以内。也就是说，面前的顾客所属的世界，要么是来买东西的 人询问店员，要么是

10、“随便逛逛的人询问店员，只有这两种可能性。 显示其可能性的数值（概率），如图表所示。图表不询问的可能性消失。根据观察到的行为，可能性被限定为两种，此时，所有情况的概 率（长方形面积）之和已经不为1。因此，要保持比例关系，恢复标 准化条件，从而使概率发生变化。图表表示恢复标准化条件，计算后验概率从上表中我们可以看出，上前询问的顾客为购买者的概率，可以 推定为3/7。这个概率，被称为贝叶斯逆概率或后验概率。在此，对逆概率一词中的“逆的含义，进行简要说明。所谓的 逆是指：用与之前相反的方法，来解析表示几个互不相同的“世界 的图形。截至上一节的观点是：顾客共分两种类别，每一种类别都会 随机做出询问或不

11、询问的行为，这一观点的前提是对图表进行纵 向观察。这正是从类别这一原因，得到行动这一结果的处理方法。 但是，现在让我们来横向观察图表。也就是说，上前询问的顾客可 分为“来买东西的人和“随便逛逛的人两种类别，从中随机选择一种。 从询问这一行动的结果追溯至Ir类别这一原因。【结果好原因】这一 过程，就是“逆概率这一概念中“逆的含义。贝叶斯推理过程的总结用图表对于之前提到的后验概率的计算方法进行总结，如图表所/Ko存在两种顾客：来买东 西的人和随便逛逛的人各个类别的顾客上前询 问的概率是多少顾客上前询问招呼排除掉“不询问”的情况相加之和为1上前询问的顾客买东西 概率发生了变化那么，通过求后验概率，我

12、们能够了解到什么呢？其实，只要抽 出图表的开头、中间和结尾部分，并填入数值，结果就很明确了。顾客是来买东西的人的先验概率二0.2观察到“询问”的行为类别为“来买东西的人”的后验概率=亭 0.43看这个图表便可了解到，在没有观察到任何行为时，面前的顾客 是“来买东西的人”的概率为02 （先验概率）,但观察到“上前询问” 这一行为之后，数值便更新为约0.43 （后验概率）。也就是说，虽然并不能断定这位顾客就是“来买东西的人”，但这一结果的可能性提高到了以前的两倍，这便是“贝叶斯更新”0案例二推测送巧克力的女同事的心意本文之前所阐述的贝叶斯推理的顺序为：先验概率好条件概率玲通过观察获取信息后验概率前

13、例在设定最初的先验概率时，是以客观数据作为参考的。然而， 贝叶斯推理的魅力正在于：即使没有事前的客观数据，也能进行推算。 也就是说，可以主观设定先验概率，进行推算。这可以更进一步解释 为：学会这个方法，才能更深刻地理解贝叶斯推理的思想，全面了 解它的神奇之处。下面，进行如下问题设定：假设你是一名男性，有这样一位特殊的女同事，你很在意她是否 对自己有好感。情人节那天，你收到了她送的巧克力。那么，你将如 何推算她喜欢自己这一事件的概率呢？此处的设问一一认为你是真命天子的概率中的“概率这一概念, 让人越想越不明白。因此，本次的问题设定与通常情况下的统计、概 率常识是有所不同的。不过，贝叶斯推理可以帮

14、助我们解决这样的问 题。这也正是贝叶斯推理的优势所在。本讲通过解释这一类问题，帮 助您理解贝叶斯推理带有主观性的一个侧面。第一步：主观上设定你是否是真命天子的先验概率按上节所述，这一事例的特殊性在于，通过客观统计数据无法获 得先验概率。先验概率的概念在第一例中曾涉及，是指：事前能够判 断的各个类别的相应概率。在这个案例中，有两种类别：一种是把 你视为最喜欢的人，另一种是“没有把你列入考虑范围之内。以下， 简称为真命天子和无关路人。此例中，并没有选取大量的统计学现象来处理，而是对某个特定 的女同事的心情进行推测。因此，没有数据可用于先验概率的判断。 在这种情况下，一般会采用“理由不充分原理的方法

15、。通过这一原理 我们可以进行如下思考：因为没有证据证明女同事把你视为“真命天 子，然而也没有证据认为她把你视为“无关路人，因此暂且把这两 种情况的概率视为相等。即把两种情况的先验概率分别设为0.5和0.5, 如图表所示。0.50.5真命天子无关路人那么，你究竟属于这两个类中的哪一个呢？总之，答案在她的心 中，你无法断定，只能推测罢了。既然统计方法无法使用，也没有证 据证明哪一种更有优势，因此，两种情况的可能性理应对等划分，各 为0.5o当然，也可以划分为其他比例，这个问题将在本例的最后进 行说明。第二步：设法找到数据，设定条件概率下一步是针对能够观察到的行动，设定不同类别的条件概率，而 这需要在一定程度上的客观概率。也就是说，必须要获得统计性的数 据，才能进行下一步工作。对于统计结果进行分析的结果显示，存在如下关系：类别送出巧克力的概率不送巧克