详细笔记查看 林轩田机器学习基石课程笔记2 - 学习回答Yes/No
问题
当时看这个图和注解的时候,特别难理解。因为没有对图中内容打标注。
在这里插入图片描述
下面介绍一下PLA是怎么做的。首先随机选择一条直线进行分类。然后找到第一个分类错误的点,如果这个点表示正类,被误分为负类,即 ,那表示
和
夹角大于90度,其中
是直线的法向量。所以,
被误分在直线的下侧(相对于法向量,法向量的方向即为正类所在的一侧),修正的方法就是使
和
夹角小于90度。通常做法是
,如图右上角所示,一次或多次更新后的
与
夹角小于90度,能保证
位于直线的上侧,则对误分为负类的错误点完成了直线修正。
同理,如果是误分为正类的点,即 ,那表示
和
夹角小于90度,其中
是直线的法向量。所以,
被误分在直线的上侧,修正的方法就是使
和
夹角大于90度。通常做法是
,如图右下角所示,一次或多次更新后的
与
夹角大于90度,能保证
位于直线的下侧,则对误分为正类的错误点也完成了直线修正。
详细分析
image.png
如上图所示,这个是2维的平面,法向量从 移动到
,然后分隔直线从青色变成黄色。
- 法向量与直线垂直得知,法向量
对应的分隔直线是黄色的直线,此时将区域分割,分成正类(区域1和区域2)和负类(区域3和区域4)
- 法向量
和 向量
夹角大于 90°,向量
是一个正类,却被分配到了负类(区域3)上,即
- 此时,要调整角度小于90°,那就要通过
调整法向量,新的法向量
对应的青色直线,重新将区域分割,分成正类(区域2和区域3)和负类(区域1和区域4)
- 法向量
和 向量
夹角小于 90°,向量
是一个正类,分配到了正类(区域3)上
- 此时直线调整完成