林轩田机器学习基石课程笔记2 - 知识点补充2

详细笔记查看 林轩田机器学习基石课程笔记2 - 学习回答Yes/No

问题

在解释 Guarantee of PLA 这个问题过程中，提及到了3个内容的推导：

  1. 内积越大，那表示 w_{t+1} 是在接近目标权重 w_f
  2. 但是内积更大，可能是向量长度更大了，不一定是向量间角度更小
  3. w_t 的增长被限制了，w_{t+1} 与w_t 向量长度不会差别太大

详细说明

问题1：内积越大，那表示 w_{t+1} 是在接近目标权重 w_f

首先有2个网站解释内积是什么
向量点乘，叉乘
为什么两个向量的点积越大，表明两者越相似？是不是还有什么限制条件？不能甚解，望大神解答，谢谢？
我这里截取一些重点：

image.png

可以使用这两个公式证明
image.png

但是，内积与2个因素有关，角度和长度。
所以需要证明第二个问题，内积大，仅与角度有关，并不是因为长度更大

问题2：但是内积更大，可能是向量长度更大了，不一定是向量间角度更小

问题3：待有空明白，这个公式实在是太长了

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。