以下内容转载于：https://blog.csdn.net/liugan528/article/details/79448379
支持向量机（Support Vector Machine, SVM）的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法，在引入了核方法之后SVM也可以用来解决非线性问题。
一般SVM有下面三种：
1.硬间隔支持向量机（线性可分支持向量机）：当训练数据线性可分时，可通过硬间隔最 大化学得一个线性可分支持向量机。
2.软间隔支持向量机：当训练数据近似线性可分时，可通过软间隔最大化学得一个线性支持向量机。
3.非线性支持向量机：当训练数据线性不可分时，可通过核方法以及软间隔最大化学得一个非线性支持向量机。
注意几点：
1.支持向量的概念：距离最佳超平面w⃗x⃗+b=0w→x→+b=0\vec{w}\vec{x}+b=0最近的几个训练样本点使上式中的等号成立，它们被称为“支持向量”（support vector）。记超平面w⃗x⃗+b=+1w→x→+b=+1\vec{w}\vec{x}+b=+1和w⃗x⃗+b=−1w→x→+b=−1\vec{w}\vec{x}+b=-1之间的距离为γγ\gamma，该距离又被称为“间隔”（margin），SVM的核心之一就是想办法将“间隔”γγ\gamma最大化。
2.训练完成之后，大部分的训练样本都不需要保留，最终的模型仅与支持向量有关。
