本章节是对我学习完机器学习(周志华)第六章 所做出来的总结
第六章 支持向量机
6.1 间隔与支持向量
支持向量与间隔
如图所示,被圈住的三个点称为“支持向量”;γ被称为“间隔”。
支持向量机(简称SVM)它是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器,即支持向量机的学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解。
6.2 对偶问题
关于对偶问题可以看下这个:https://blog.csdn.net/blackyuanc/article/details/67640844
6.3 核函数
核函数:https://blog.csdn.net/jack339083590/article/details/78960657
6.4 软间隔和正则化
硬间隔:所有样本都必须划分正确。
软间隔:允许某些样本划分错误。
正则化可理解为一种“罚函数法”,即对不希望得到的结果施以惩罚,从而使得优化过程趋向于希望目标。从贝叶斯估计的角度来看,正则化项可认为是提供了模型的先验概率。