解决的问题：
已经一个训练集...(x_N%2Cy_N)%5C%7D)
，给定数据x，求y
含义：
朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法。
-
为什么是基于贝叶斯定理：由训练数据求后验概率需要用到。
-
为什么需要特征条件独立假设：减少联合分布的参数数量。从
减少到
。这一点比较重要，后面在数学论证的时候会进行说明。
数学推理
定义：
已知训练数据集...(x_N%2Cy_N)%5C%7D)
，N为训练数据的个数
输出空间
，Y有K种取值
输入空间
，X是n维向量，其中
，
有
种取值
推导：
- 计算先验概率分布
)
，这个通过训练数据可以得出，通过统计（第k个标签出来的次数）/（总数据量）
- 计算条件概率分布
)
，因为X是n维的向量，所以这个分布是需要对每一维数据进行考虑的。在Y已经确定的情况下，一共有
这么多种取值，再加上Y为K种取值，整个条件分布就会有种可能，你需要这么多个参数去描述这个分布，很显然不现实。
这个时候就需要特征条件独立的假设。
现在假设输入空间X的每一维是相互独立的，前面的条件概率分布可以重写。
%3DP(X%5E1%3Dx%5E1%7CY%3Dc_k)...P(X%5En%3Dx%5En%7CY%3Dc_k))
从上式中可以看出，本来的n维向量的联合分布被简化成多个条件分布的乘积，可)
这个条件分布是可以通过训练计算得到的。
- 计算后验分布
)
这个时候就需要用到贝叶斯定理了。P(X)%3DP(X%7CY)P(X))
，最后可以得到
%3D%5Cunderset%7Bc_k%7D%7Bargmax%7DP(X%3Dx%7CY%3Dc_k)P(Y%3Dc_k)%3D%5Cunderset%7Bc_k%7D%7Bargmax%7DP(Y%3Dc_k)%5Cprod%7BP(X%5Ej%3Dx%5Ej)%7D)
跟)
在前面都统计出来了，需要做的就是遍历一个c_k，求出每一种情况的概率，找到最大值即可。
去github
