非线性分类
输入空间中有由
分割的数据集，圆内为正例，圆外为负例，此时用超平面是无法正确分离数据集的。
定义映射%3D(x_1%5E2%2Cx_2%5E2))
,在新空间中数据集可以用超平面
分离。
核函数
设X是输入空间，H是特征空间。假设存在一个从X到H的映射%20%EF%BC%9AX%5Crightarrow%20H)
,使得对所有的
,函数)
满足
%3D%5Cphi(x)%5Ccdot%20%5Cphi(z))
,
则称为核函数，)
为映射函数。
%3D(x_1%5E2%2C%5Csqrt%202%20x_1x_2%2Cx_2%5E2)%2C%E5%88%99%5C%5C%0AK(x%2Cz)%3D%5Cphi(x)%20%5Ccdot%20%5Cphi(z)%3D(x_1%5E2%20z_1%5E2%2C2x_1z_1x_2z_2%2C%20x_2%5E2%20z_2%5E2)%3D((x_1%2Cx_2)%5Ccdot%20(z_1%2Cz_2))%5E2%3D(x%5Ccdot%20z)%5E2)
核方法
核技方法（核技巧）的思路是只定义核函数,而不显式地定义。因为找到合适的比较难，找到合适的后，H空间通常是高维或者无穷维的，在H空间计算内积很不容易。使用核技巧可以直接在X空间使用核函数计算H空间的内积，避免这个问题。对于特定的问题，特征空间H和映射函数的
的取法并不是唯一的，即使对于同一个特征空间，映射函数的取法也可能有很多种。
正定核
通常所说的核函数是正定核函数，即对给出的核函数，一定存在映射满足%3D%5Cphi(x)%5Ccdot%20%5Cphi(z))
.
可以通过下面的充要条件来判断任意给出的函数是不是正定核函数：
正定核的充要条件：设
是对称函数，则是正定核的充要条件是对任意
,对应的Gram矩阵
![K=[K(x_i,x_j)]_{m\times m}](https://math.jianshu.com/math?formula=K%3D%5BK(x_i%2Cx_j)%5D_%7Bm%5Ctimes%20m%7D)
是半正定矩阵。
Gram矩阵：n维欧式空间中的m个向量
的内积所组成的矩阵
![\left[\begin{matrix} \alpha_1\cdot \alpha_1 & \alpha_1\cdot \alpha_2 & \cdots & \alpha_1\cdot \alpha_m \\ \alpha_2\cdot \alpha_1 & \alpha_2\cdot \alpha_2 & \cdots & \alpha_2\cdot \alpha_m \\ \vdots & \vdots & \ddots & \vdots \\ \alpha_m\cdot \alpha_1 & \alpha_m\cdot \alpha_2 & \cdots & \alpha_m\cdot \alpha_m \\\end{matrix}\right]](https://math.jianshu.com/math?formula=%5Cleft%5B%0A%5Cbegin%7Bmatrix%7D%0A%20%5Calpha_1%5Ccdot%20%5Calpha_1%20%20%20%20%20%20%26%20%5Calpha_1%5Ccdot%20%5Calpha_2%20%20%20%20%20%20%26%20%5Ccdots%20%26%20%5Calpha_1%5Ccdot%20%5Calpha_m%20%20%20%20%20%20%5C%5C%0A%20%5Calpha_2%5Ccdot%20%5Calpha_1%20%20%20%20%20%20%26%20%5Calpha_2%5Ccdot%20%5Calpha_2%20%20%20%20%20%26%20%5Ccdots%20%26%20%5Calpha_2%5Ccdot%20%5Calpha_m%20%20%20%20%20%20%5C%5C%0A%20%5Cvdots%20%26%20%5Cvdots%20%26%20%5Cddots%20%26%20%5Cvdots%20%5C%5C%0A%20%5Calpha_m%5Ccdot%20%5Calpha_1%20%20%20%20%20%20%26%20%5Calpha_m%5Ccdot%20%5Calpha_2%20%20%20%20%20%20%26%20%5Ccdots%20%26%20%5Calpha_m%5Ccdot%20%5Calpha_m%20%20%20%20%20%20%5C%5C%0A%5Cend%7Bmatrix%7D%0A%5Cright%5D)
称为m个向量的Gram矩阵。
半正定矩阵：
或特征值全为非负数
常用核函数
多项式核函数
%3D(x%5Ccdot%20z%2B1)%5Ep)
高斯核函数
%3Dexp(%5Cfrac%7B%7C%7Cx-z%7C%7C%5E2%7D%7B2%5Csigma%5E2%7D))
字符串核函数
【待】
