SVM(王木头)

1.SVM 的前提假设是什么?

有一条直线,如果它能够距离两边的数据间隔最大,那么这跟直线就是我们要找的直线(红色直线)。因为如果距离间隔小的话稍微有些抖动就会造成分类错误。


SVM

2.最大边界的数学表达

最大边界的数学表达

其中红线中的公式如果要解决的问题是一个多为问题的话,那么这个直线就是一个超平面。那么这里实际上就是在求一个点到一个超平面的距离的最小值。



现在我们想知道一个点到一个超平面的距离我们可以这样来思考。


点到超平面之间的距离

点到超平面之间距离公式①的推导

点到直线之间的距离只是条件之一,我们还需考虑另外一个条件即该直线不仅要间隔最大还要能够把所有的点正确分类。那么这一条件该如何用数学公式表达呢?

3.正确分类的数学表达

将不同颜色的样本点标记上数字标签1和-1,Xi代表不同的样本点,如果Xi在直线上方,那么将该点带入超平面公式就是大于0的,反之则小于0.。如果我们能够正确的分类那么样本点的标签与样本点带入超平面方程得到的数值之积应该是>0的。


4.整理过后得到的公式

5.边界计算表达方式的简化


我们将红框内的部分限制为1,那么整个间隔的大小就可以完全由前面的部分代替了。


©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 看了该作者的文章,瞬间膜拜了!讲得太好了! 转自:http://www.blogjava.net/zhenanda...
    鲜人掌阅读 1,266评论 0 3
  • SVM(support vector machines,支持向量机)是机器学习算法里面非常重要的一个二分类模型,不...
    Otis4631阅读 1,018评论 0 2
  • 本章涉及到的知识点清单:1、决策面方程2、函数间隔和几何间隔3、不等式约束条件4、SVM最优化模型的数学描述(凸二...
    PrivateEye_zzy阅读 13,567评论 3 10
  • 希望简书对公式的支持能更给力一点 CONTENT一些概念线性分类器目标函数软间隔优化问题求解非线性和核技巧 REF...
    酌泠阅读 329评论 0 0
  • 本文纯理论,来源于 Andrew Ng 公开课和李航的《统计学习方法》。Support Vector Machin...
    董泽润阅读 1,337评论 0 0

友情链接更多精彩内容