线性代数中有关方程Ax=b的一些结论

一、结论

  1. 矩阵A的列空间是整个R^m的要求,意味着A至少有m列,即n≥m。否则,A列空间的维数会小于m

  2. 如果一个矩阵的列空间涵盖整个R^m,那么该矩阵必须包含至少一组m个线性无关的向量。这是式Ax = b对于每一个向量b的取值都有解的充分必要条件。值得注意的是,这个条件是说该向量集恰好有m个线性无关的列向量,而不是至少m个。

  3. 不存在一个m维向量的集合具有多于m个彼此线性不相关的列向量,但是一个有多于m个列向量的矩阵有可能拥有不止一个大小为m的线性无关向量集。

  4. 要想使矩阵可逆,我们除需要矩阵Am个线性无关的列向量外还需要保证式Ax=b对于每一个b值至多有一个解。为此,我们需要确保该矩阵至多有m个列向量。否则,该方程会有不止一个解。

  5. 一个列向量线性相关的方阵被称为奇异的(singular)。如果矩阵A不是一个方阵或者是一个奇异的方阵,该方程仍然可能有解。但是我们不能使用矩阵逆去求解。

  6. 如果逆矩阵A^{-1}存在,那么式Ax=b肯定对于每一个向量b恰好存在一个解。但是,对于方程组而言,对于向量b的某些值,有可能不存在解,或者存在无限多个解。存在多于一个解但是少于无限多个解的情况是不可能发生的。

  7. 如果矩阵A可逆,则方程一定有且仅有一个解。(注意A可逆是充分不必要条件)

注:
A是一个矩阵,其形状为m × nxb分别是维度为nm的向量。矩阵A可以看成nm维向量的集合。b即为A的列向量的线性组合,组合的系数即为x中的各元素。
②一组向量的生成子空间(span)是原始向量线性组合后所能抵达的点的集合。确定Ax=b是否有解,相当于确定向量b是否在A列向量的生成子空间中。这个特殊的生成子空间被称为A的列空间(column space)或者A的值域(range)。
③如果一组向量中的任意一个向量都不能表示成其他向量的线性组合,那么这组向量称为线性无关(linearly independent)。

二、QA

  1. Q:结论1中为什么A至少要有m列?
    A:假设A是一个3×2的矩阵。目标b是3维的,但是x只有2维。所以无论如何修改x的值,也只能描绘出R^3空间中的二维平面。当且仅当向量b在该二维平面中时,该方程有解。

  2. Q:结论3中为什么说一个“不存在一个m维向量的集合具有多于m个彼此线性不相关的列向量”?
    A:由结论2可知如果一个m维向量的集合拥有m个彼此线性不相关的列向量,则这些列向量的线性组合可以覆盖R^m中的任何一点,所以如果有m+1个彼此线性不相关的列向量,则多出来的1个列向量一定可以由前m个列向量线性表示。

  3. Q:结论4中为什么需要矩阵A最多有m个列向量?
    A:如果矩阵A既有m个线性无关的列向量且A的列向量个数大于m,则由结论3可知A可能拥有不止一个大小为m的线性无关向量集,每个线性无关向量集都可以通过线性组合得到向量b,则方程组的解一定不唯一。

  4. Q:如何解释结论7?
    A:A可逆,则可解得xA^{-1}b,如果方程解不唯一,则存在x\neq A^{-1}b,则Ax\neq b,所以方程有唯一解。

(参考资料:《深度学习》)
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容