SVM、核方法、SVR基本原理介绍

支持向量

image.png

image.png

image.png

image.png

线性超平面求解方法

1.引入SVM基本型

image.png

image.png

2.利用对偶问题模型建立
image.png

image.png

image.png

3.KKT条件
image.png

4.SMO算法求解对偶问题
image.png

image.png

image.png

image.png

核方法(求解非线性可分问题)

1.核函数

image.png

image.png

image.png

image.png

image.png

image.png

2.核函数定理

3.常用核函数
image.png

软间隔

1.软间隔

image.png

image.png

2.损失函数的引入
image.png

image.png

image.png

3.松弛变量的引入

image.png

image.png

4.软间隔SVM的对偶问题模型的建立与求解
image.png

image.png

正则化方法

image.png

image.png

SVR(支持向量回归)

1.间隔带的引入

image.png


2.SVR问题模型的建立
image.png

image.png

image.png

3.SVR问题模型的求解
image.png

image.png

image.png

image.png

4.SVR核方法
image.png

核方法

image.png

1.表示定理
image.png

image.png

KLDA(核线性判别分析)

image.png

image.png

image.png

image.png

image.png

(上文截图来源于周志华的《机器学习》)

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容