《深度学习》阅读笔记

chapter 2

2.4 线性相关和生成子空间

一组向量的生成子空间:原始向量线性组合后能到达的点的所组成的空间的集合

列向量的冗余称为线性相关,列向量线性相关的方阵称为奇异矩阵。

2.5 范数

范数常被用于衡量向量的大小。L2范数即机器学习中常用的MSE,但在原点处增长太缓慢。当0和非0元素间的差异非常重要时,使用L1范数。

衡量矩阵的大小:frobenius范数

2.6 特征分解

由矩阵的特征值定义可以推得A=Vdiag(\lambda )Vx^-1  

正定:所有特征值都是正值

2.7 SVD

每个实数矩阵都有SVD,但并不一定有特征值分解。

A = UDV⊤

:

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容