00005. 在朴素Bayes模型中,为什么需要Laplace平滑?

统计学上,在计算实例的概率时,如果某个量x,在观察样本库(训练集)中没有出现过,会导致整个实例的概率结果是0。然而只因为在以前的有限的训练数据集中没见到过一件事,就估计这个事件的概率为零,这明显是不合理的。

为了解决零概率的问题,法国数学家拉普拉斯最早提出用加1的方法估计没有出现过的现象的概率,所以加法平滑也叫做拉普拉斯平滑。
  假定训练样本很大时,每个分量\small{x}的计数加\small{1}造成的估计概率变化可以忽略不计,但可以方便有效地避免零概率问题。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 考试说明 注重基础知识和概念的理解,因此解题中的计算过程不会很复杂,但是会有推公式的过程。本课程的重点知识包括:贝...
    城市中迷途小书童阅读 1,296评论 0 0
  • 考试说明 注重基础知识和概念的理解,因此解题中的计算过程不会很复杂,但是会有推公式的过程。本课程的重点知识包括:贝...
    艺术叔阅读 3,077评论 0 3
  • 一.朴素贝叶斯 1.分类理论 朴素贝叶斯是一种基于贝叶斯定理和特征条件独立性假设的多分类的机器学习方法,所...
    wlj1107阅读 3,478评论 0 5
  • 朴素贝叶斯 在机器学习中,朴素贝叶斯分类器是一系列以假设特征之间强(朴素)独立下运用贝叶斯定理为基础的简单概率分类...
    七八音阅读 21,360评论 0 21
  • 一、有没有遇过这么一类人。 你跟他一起吃饭,吃什么他说随便,你请教他对某件事情的看法,他说没有,你问他最爱做什么事...
    简书Kyle阅读 2,082评论 2 23

友情链接更多精彩内容