全概率公式和贝叶斯公式(先验概率和后验概率)

完备事件组： $A_{1} ,A_{2}...A_{n}$ ，两两互斥，且并集为全集 S

全概率公式:

$p(A) = p(A\cap S)$

$= p(A\cap(B_{1} + B_{2} +...+B_{n}))$

$= p(AB_{1}) + p(AB_{2}) +...+ p(AB_{n})$

根据条件概率公式得：

$=p(B_{1})p(A|B_{1}) + p(B_{2})p(A|B_{2}) +...+ p(B_{n})p(A|B_{n})$

即： $p(A) = \sum_{i=1}^np(B_{i})p(A|B_{i})$

因为 A的发生是由 B的原因引起的，所以又叫“由原因推结果”。

贝叶斯公式：

$p(B_{i}|A) = \frac{p(B_{i})p(A|B_{i})}{p(A)}$ (i = 1, 2....n) $p(B_{i}|A) = \frac{p(B_{i})p(A|B_{i})}{\sum_{j=1}^np(B_{j})p(A|B_{j}))}$

这里p(A)用全概率公式替换

在事件 A已经发生的条件下，贝叶斯可用来寻找导致 A发生各种原因 $B_{i}$ 的概率，即执果所因, 又叫逆概率公式。

先验概率：p(A), p(B) 这种由以往数据所得到的单个概率叫先验概率。

后验概率：p(A|B), p(B|A) 在由某个条件后得到的概率叫后验概率。

（这里 A和 B一个是结果，一个是原因，下文有例子）

例题：某台机器调整良好时，产品合格率是 95%, 机器没有调整良好时，产品合格率为 50%

机器调整良好的概率是 90%，已知产品合格，求机器良好的概率。

解：A: 产品合格， B1：机器调整良好, B2: 机器没有调整良好

p(B1) = 0.9， p(B2) = 1 - 0.9 = 0.1

p(A|B1) = 0.95, p(A|B2) = 0.5, 求 p(B1|A)，通过贝叶斯公式即可求解。

这里机器调整良好的概率 p(B1)=0.9 是由以往的数据得出，为先验概率。

已知产品合格，求机器调整良好的概率 p(B1|A) 是通过产品合格的信息加以修正得出的，称为后验概率。