朴素贝叶斯随笔

朴素贝叶斯

定义

贝叶斯分类算法是统计学的一种概率分类的方法，朴素贝叶斯是一种简单的贝叶斯公式，所谓的简单就是简化公式成立的条件，假设样本间都是独立的那么，那么假设有 n 样本的集合
{a_1,a_2, \cdots a_n}

条件概率

文氏图

是指在事件 B 发生情况下，事件 A 发生的概率，用 P(A|B) 表示
P(A|B) = \frac{P(A \bigcap B)}{P(B)}
同理在事件 A 发生情况如下
P(B|A) = \frac{P(A \bigcap B)}{P(A)}
我们对公式进行推导一下将公式 P(A \bigcap B) 都移动等式左侧，提取相同部分。
P(A \bigcap B) = P(A|B)P(B)
P(A \bigcap B) = P(B|A)P(A)
将上面两个等式进行推导出下面公式
P(A|B)P(B) = P(B|A)P(A)

全概率公式

P(B) = P(BA_1) + P(BA_2) + \cdots + P(BA_n)
P(B) = P(B|A_1)P(A_1) + P(B|A_2)(A_2) + \cdots + P(B|A_n)P(A_n)
P(B) = \sum_{i=1}^n P(B|A_i)P(A_i)

贝叶斯公式

P(A|B) = P(A) \frac{ P(B|A)}{P(B)}

  • 这里 P(A) 就是 B 事件发生之前，我们对 A 事件概率的判断
  • P(A|B) 在 B 事件发生之后，我们对 A 事件发生概率的重新估计
  • \frac{ P(B|A)}{P(B)} 调整因子

后验概率 = 先验概率 * 调整因子

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容