SVM

一. SVM的种类

第一种可以用一条线完全划分超平面百分之百分对;第二种不存在一个超平面全部分对,允许部分分错。


二. SVM在做什么?

(1,-2)是法线方向,法线正方向表示+,负方向表示-。f((0,0)) = 2>0是在法线的正方向的。同时可以根据点到直线的距离公式计算点(x1,x2),到该直线的距离。


对于一个样本点(X1,X2,1), 可以将距离公式转换如上,因为y(i)与(Wt*X(i)+b)符号,始终相同,所以可将原来的绝对值形式,转换为该种形式。

SVM找出最佳的分割线!做法:给定w,b ,也就是已知这条分割线的方程,再求样本中到该分割线距离最小的那个点到这个线的距离dmaxmin。然后换不同的w,b,也就是换不同的分割线来试,继续计算出它们的dmaxmin。最后看哪个值最大,就选那个值对应的分割线。


线性可分支持向量机,fai x,将原本的x1,x2,转换成x1,x2,x1x2,x1**2,x2**2,映射到更高的维度,也就是增加了特征的数量。
整理的符号

三. 推导目标函数


一般α在s.t条件小于等于0时取负,而此处条件大于等于0,所以要加负号

之后将算出来的w与b带回原式

四. 线性支持向量机

有时候需要放弃一些样本,才会让margin更大,效果越好。

每个样本的ξ不一样
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容