贝叶斯定理是概率论中的一个定理,它跟随机变量的条件概率以及边缘概率分布有关。在有些关于概率的解释中,贝叶斯定理(贝叶斯公式)能够告知我们如何利用新证据修改已有的看法。这个名称来自于托马斯·贝叶斯。
通常,事件A在事件B(发生)的条件下的概率,与事件B在事件A(发生)的条件下的概率是不一样的;然而,这两者是有确定关系的,贝叶斯定理就是这种关系的陈述。贝叶斯公式的一个用途在于通过已知的三个概率函数推出第四个。
贝叶斯公式为:
在贝叶斯定理中,每项都有约定俗成的名称:
·P(B|A)是已知A发生后B的条件概率,由于得自A的取值也被称作B的后验概率。
·P(B)是B的先验概率(或边缘概率)。之所以称为“先验”是因为它不考虑任何A方面的因素。
·P(A|B)是已知B发生后A的条件概率,称为似然(likelihood),也由于得自B的取值而被称作A的后验概率。
·P(A)是A的先验概率或边缘概率。
其中P(A)的计算,通常使用全概率公式,设Ω=B 1 +B 2 +…(其中B i 、B j 两两互斥),则A=A∩Ω=∑ i AB i ,从而P(A)=∑ i P(AB i )=∑ i P(A|B i )P(B i ),对任意B j ,贝叶斯公式又可表示为: