如何理解矩阵的秩？（我们是求矩阵的秩，不是图像的秩）
秩是图像经过矩阵变换之后的空间维度
秩是列空间的维度
矩阵低秩的意义
observation=low-rank+sparse
图像处理中，rank可以理解为图像所包含的信息的丰富程度。
稀疏表达的意义：我们认为图像有一些公共的模式，所有图像都由这些基本的模式组成。
稀疏性：任意给一个图像，字典可能是过完备的，从而用字典里的基向量表示出这幅图有很多不同的方案。我们希望选取使用基底数量最少的那种方案。
如何理解矩阵特征值
一般只涉及到实数范围
如果把矩阵看作是运动：
- 特征值就是运动的速度
- 特征向量就是运动的方向
矩阵特征值是对特征向量进行伸缩和旋转程度的度量
实数是只进行伸缩，虚数是只进行旋转，复数就是有伸缩有旋转。其实最重要的是特征向量，从他的定义可以看出来，特征向量是在矩阵变换下只进行“规则”变换的向量，这个“规则”就是特征值
奇异值的物理意义
奇异值往往对应着矩阵中隐含的重要信息，且重要性和奇异值大小正相关。每个矩阵A都可以表示为一系列秩为1的“小矩阵”之和，而奇异值则衡量了这些“小矩阵”对于A 的权重。
为什么梯度反方向是函数值局部下降最快的地方？
1.png
逻辑回归和SVM的区别是什么？各适用于解决什么问题
从目标函数来看，区别在于逻辑回归采用的是logistical loss，svm采用的是hinge loss
2.png
