贝叶斯定理，贝叶斯的理论概述是什么

18世纪，英国学者贝叶斯(1702～1761)曾提出计算条件可能性的公式用来处理请看下方具体内容一类问题：假设H[,1],H[,2]…互斥且构成一个完全事件，已知它们的可能性P(H[,i],i=1,2,…，现观察到某事件A与H[,1],H[,2]…相伴随而产生，且已知条件可能性P(A/H[,i])，求P(H[,i]/A)。那就是贝叶斯定律。

中文名

贝叶斯定律

提出时间

18世纪

提出者

贝叶斯

类别

计算公式

迅速

导航

研究历程

举例说明

P(H[,i]/A)=P(H[,i])P(A/H[,i])/[P(H[,1])P(A/H[,1]) +P(H[,2])P(A/H[,2])…]

那就是著名的“贝叶斯定理”，一部分文献中把P(H[,1])、P(H[,2])称为基础可能性，P(A/H[,1])为击中率，P(A/H[,2])为误报率[1]。现举一个心理学研究中常被引用的例子来说明：

参与常见检查的40岁的妇女患乳腺癌的可能性是1%。假设一个妇女有乳腺癌，则她有百分之80的可能性将接受早期胸部肿瘤X射线检查。假设一个妇女没有患乳腺癌，也有9.6%的可能性将接受早期胸部肿瘤X射线测定法检查。在这一年龄群的常见检查中某妇女接受了早期胸部肿瘤X射线测定法检查。问她实质上患乳腺癌的可能性是多大？

设H[,1]=乳腺癌，H[,2]=非乳腺癌，A=早期胸部肿瘤X射线检查（以下简称“X射线检查”），已知P(H[,1])=1%,P(H[,2])=99%,P(A/H[,1])=百分之80,P(A/H[,2])=9.6%，求P(H[,1]/A)。按照贝叶斯定理，P(H[,1]/A)=(1%)(百分之80)/[(1%)(百分之80) +(99%)(9.6%)]=0.078

心理学家所关心的是，一个不懂贝叶斯原理的人对上面说的问题进行直觉推理时的情形是什么样的，并将他们的判断结果与贝叶斯公式计算的结果做比较来研究推理过程的规律。因为这个原因相关这种类型问题的推理被称为贝叶斯推理

贝叶斯决策理论是主观贝叶斯派归纳理论的重要组成部分。贝叶斯决策就是在不完全情报下，对部分未知的状态用主观可能性估计，然后用贝叶斯公式对出现可能性进行修正，后再利用希望值和修正可能性做出优决策。贝叶斯决策理论方式是统计模型决策中的一个基本方式，其基本思想是：

1、已知类条件可能性密度参数表达式和先验可能性。

2、利用贝叶斯公式转换成后验可能性。

3、按照后验可能性大小进行决策分类。他对统计推理的主要奉献是为了让用了逆可能性这个概念，并把它作为一种普遍的推理方式提出来。贝叶斯定理原本是可能性论中的一个定理，这一定理可用一个数学公式来表达，这个公式就是著名的贝叶斯公式。贝叶斯公式是1763年被发现后提出来的：假定B1,B2,……是某个过程的若干可能的前提，则P(Bi)是大家事先对各前提条件产生概率大小的估计，称之为先验可能性。假设这个过程得到了一个结果A，既然如此那，贝叶斯公式提供了我们按照A的产生而对前提条件做出新评价的方式。P(Bi∣A)即是对以A为前提下Bi的产生可能性的重新认识，称P(Bi∣A)为后验可能性。经过多年的发展与完善，贝叶斯公式还有由此发展起来的一整套理论与方式，已经成为可能性统计中的一个冠以“贝叶斯”名字的学派，在自然科学及国民经济的不少领域中有着广泛应用。

一天小明去做例行体检，检查结果显示小明对一宗罕见的病呈阳性，医生按照历史数据得知普通人得这样的病的可能性是0.1%(基础可能性，Prior Belief)。于是小明问医生，我得了这样的病的可能性是多少呢？医生说，病人的检测结果99%会呈阳性，针对非病人，有1%的可能性会呈阳性（误诊）。

各位考生先问一下自己，小明患病的可能性是多少？大多数人的直觉答案是99%，或者至少很高。可惜错了，因为我们忽视了基础可能性，请认真阅读下面的分析。

当我们用贝叶斯定理分析的时候，我们可以假设检查呈阳性为事件A，出现的可能性为P(A)；小明患病为事件B，出现的可能性为P(B)；两个事件一起出现的可能性为P(A [公式] B)。按照文章主体前的概念1就可以清楚的知道P(B|A)*P(A) = P(A|B)*P(B)，等式两边同时除以P(A)可以得到P(B|A) = P(A|B)*P(B)/ P(A)。

目前我们把详细情境套入公式，P(B|A)代表当小明的检查为阳性时，小明为病人的可能性（其实就是常说的小明关心的问题）；P(A|B)代表当小明为病人的情况下，检查呈阳性的可能性（99%）；P(B)是小明患病的基础可能性，其实就是常说的在没有其他信息的情况下，小明患这样的病的可能性（0.1%）；P(A)是随机挑一个人，检查结果为阳性的希望值（备注1），这个例子中P(A) = 0.01098。把数字代入公式中，我们可以得到P(B|A) [公式] 9%，其实就是常说的说在检查结果为阳性的情况下，小明患病的可能性唯有9%。

虽然以上结论很反直觉，但是，但凡是把被误诊为阳性的人考虑进去，这个结论就满足直觉了。假设有一个1000人的样本，按照基础可能性（0.1%）仅仅会有1个患者，而剩下的999个非病人有1%的可能性被误诊，其实就是常说的大概有10个非病人的检查结果呈阳性。加上1个被确诊的病人，这个1000人的样本中共有11个人的检查结果为阳性，而唯有一个患者，其实就是常说的1/11 [公式] 9%。回到原来的情景，我们可以想象小明在一个有11个检查结果为阳性，却唯有一个患者的小组中，故此，小明是病人的可能性约为9%。

这是不是表达医学对监测罕见疾病无能为力呢？当然不是，处理问题的方式很简单，只要对首次结果呈阳性的人再做一次检测就行了（假设两次检查结果相互独立）。首次的结果为阳性的小组里，患病的基础可能性已经从0.1%提升到9%，把数据重新代入公式，我们可以得出P(B|A) [公式] 91%。

以上是对贝叶斯定理的简单应用，实际上大到解开德军密码到小到筛选垃圾邮件都运用了贝叶斯定理，说它贯穿了我们生活的方方面面也一点不过分。贝叶斯定理让我们特别要注意关注基本可能性，并通过新的信息持续性更新基本可能性，以此提升判断的准确度。

一个简单的公式背后是详细指导认识世界的深入透彻哲学，这才是能让人兴奋得尖叫的智慧。

备注1：P(A) = P(B)*P(A|B) + P(-B)*P(A|-B)。呈阳性的希望值分为2个部分，一种是“病人(B)”的确诊，另一种是“非病人(-B)”的误诊，分别把“病人”和“非病人”的基础可能性乘以确诊的误诊的可能性就是随机挑选一个被试，检查结果呈阳性的可能性。

贝叶斯定理是可能性论中的一个结论，它跟随机变量的条件可能性还有边缘可能性分布相关。在有部分有关可能性的解说中，贝叶斯定理（贝叶斯更新）可以告知我们如何利用新证据更改已有有什么不一样的看法。

一般，事件A在事件B（出现）的条件下的可能性，与事件B在事件A的条件下的可能性是明显不同的；然而这两者是有确定的关系，贝叶斯定理就是这样的关系的陈述。

贝叶斯定理也称贝叶斯推理，早在18世纪，英国学者贝叶斯(1702～1763)曾提出计算条件可能性的公式用来处理请看下方具体内容一类问题：假设H[1],H[2]…,H[n]互斥且构成一个完全事件，已知它们的可能性P(H[i]),i=1,2,…,n,现观察到某事件A与H[,1],H[,2]…,H[,n]相伴随机产生，且已知条件可能性P(A/H[,i])，求P(H[,i]/A)。 贝叶斯公式（发表于1763年）为： P(H[i]/A)=P(H[i])*P(A│H[i])/{P(H[1])*P(A│H[1]) +P(H[2])*P(A│H[2])+…+P(H[n])*P(A│H[n])} 那就是著名的“贝叶斯定理”，一部分文献中把P(H[1])、P(H[2])称为基础可能性，P(A│H[1])为击中率，P(A│H[2])为误报率[1] 。

贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展，用来描述两个条件可能性当中的关系，例如 P(A|B) 和 P(B|A)。

根据乘法法则，可以马上导出：P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可以变形为：P(A|B)=P(B|A)*P(A)/P(B)。

α-阿尔法 β-贝塔 γ-伽马 Δ-德尔塔

ξ-可sei ψ-可赛 ω-奥秘噶 μ-米哟 λ-南木打 σ-西格玛 τ-套 φ-fai

(1)朴素贝叶斯模型发源自于古典数学理论，分类效率比较稳定。

(2)对小规模的数据表现很好，可以用于多分类任务的处理，合适增量式训练，特别是在数据量超过内存的情况下，可以一批批的去增量训练。

(3)算法简单，对缺失数据不太敏感。

期望帮到你。

1. 贝叶斯算法模型发源自于古典数学理论，有着坚实的数学基础，还有稳定的分类效率；

2. 对大数量训练和查询时具有非常高的速度。就算使用超大规模的训练集，针对每个项目一般也仅仅会有相对较少的特点数，并且对项目标训练和分类也只是特点可能性的数学运算罢了；

3. 对小规模的数据表现很好，能个处理多分类任务，合适增量式训练(就可以以实时的对新增的样本进行训练)；

4. 对缺失数据不太敏感，算法也比较简单，经常会用到于文本分类；

5. 贝叶斯算法对结果解释容易理解。

在 SPSS 中，可以使用贝叶斯判别分析来预测一个新样本属于哪个类别。要进行贝叶斯判别分析，一定要在 SPSS 中打开“分类器预测”工具，然后选择“贝叶斯判别”作为分类器。

在 SPSS 中，贝叶斯判别分析的公式一般是由 SPSS 自动生成的，因为这个原因你不用手动编写公式。但是你可在进行分类器预测时指定使用什么变量，还有是不是对变量进行转换（如对数变换或中心化）。

在贝叶斯判别分析中，SPSS 会按照你指定的输入变量和目标变量，自动计算出每个类别的条件可能性分布和先验可能性。然后，SPSS 会使用贝叶斯公式来计算新样本属于每个类别的可能性，并预测新样本属于可能性大的类别。

贝叶斯公式一般是这样的：

P(Y|X) = P(X|Y) * P(Y) / P(X)

这当中，Y 是目标变量（类别），X 是输入变量，P(Y|X) 表示在已知 X 的条件下 Y 的可能性，P(X|Y) 表示在已知 Y 的条件下 X 的可能性。