线性代数常见面试题

特征值、特征根、秩、计算行列式、线性相关性、矩阵的相似、你可以想到有几种方法证明一个矩阵满秩、奇异值分解、线性相关与线性无关、什么叫矩阵的迹、正定是什么意思、什么是线性方程组有解/无解/有唯一解的条件、正交矩阵、MATLAB解线性方程组的原理、矩阵的微分、矩阵的幂运算、矩阵的导数

一. 行列式,秩,迹 ,正定矩阵

1、行列式

将矩阵映射为一个标量,矩阵每列代表一个边(平面),行列式表示多维空间各平面围成的体积。

2、秩

线性无关列的极大数目。本质:空间维度。
矩阵的秩就是矩阵中不等于0的子式的最高阶数。
行阶梯型矩阵的秩等于其非零行的行数。

(1)与向量组的关系:

矩阵的秩等于它列向量组的秩,也等于它行向量组的秩。
向量组的秩定义为向量组的极大线性无关组所含向量的个数。

(2)与向量空间的关系(几何意义):

任何矩阵的行空间的维数等于矩阵的列空间的维数等于矩阵的秩。

(3)与线性方程组解的关系:

设A是m×n矩阵,若R(A)=r<n,则齐次线性方程组Ax=0有基础解系,且每个基础解系都含n-r个解向量。

(4)与线性变换的关系:

所谓一个线性变换的秩,无非就是变换后,还能保持非零体积的几何形状的最大维度。

3、迹

矩阵主对角线。

4、正定矩阵

特征值都大于0的矩阵

5、半正定矩阵

特征值大于等于0的矩阵

二、线性相关与线性无关

1、向量组的线性组合

image.png

2、向量组的线性相关性

image.png

3、线性相关、无关与线性表示的关系

image.png

4、线性相关的几何意义

image.png

三、 向量范数,矩阵范数

1、向量范数

向量范数1.png

向量范数2.png

2、矩阵范数

矩阵范数

四、行空间,列空间,它们关系?

image.png

五、 线性方程组有解/无解/唯一解的条件?

1、无解:系数矩阵秩 < 增广矩阵的秩
2、唯一解:系数矩阵秩 = 增广矩阵的秩 = 列数 n
3、无穷解:系数矩阵秩 = 增广矩阵的秩 < 列数 n

六、线性方程组解的结构

1、齐次线性方程组解的结构

image.png

2、非齐次线性方程组

image.png

3、一些结论

(1)若(A|b)经初等行变换,变换为(B|d),则线性方程组Ax=b与Bx=d同解

(2)Ax=0有非零解⟺ R(A)<n,n为未知量的个数⟺ A的列向量组线性相关

(3)Ax=b有解⟺ R(A)=R(A˜). ⟺ b可由A的列向量组线性表示

(4)若R(A)=R(A˜)=r,则当r=n时,Ax=b有唯一解;当r<n时,Ax=b有无穷多个解

七、标准正交基,施密特变换

1、标准正交基

两量正交的向量,且长度为单位1

2、正交矩阵

矩阵的转置和矩阵的乘积=单位阵,那么这个矩阵就是正交矩阵,他的列向量组一定是标准正交向量组

3、施密特变换

求标准正交基的方法。把一个线性无关向量组改造成一个与其等价的正交向量组。


image.png

八、二次型与标准型

1、二次型定义

image.png

2、标准型定义

仅含平方项的二次型称为标准形式的二次型,简称标准型。


image.png

3、二次型的矩阵表示

image.png

4、二次型的秩

矩阵A的秩称为二次型f(x)的秩,二次型的矩阵一定是对称矩阵。

5、合同矩阵

image.png

6、化二次型为标准型

(1)正交变换法(最常用)

性质:正交变换保持向量的内积、范数、夹角不变。


image.png

image.png

(2)配方法

image.png

(3)初等变换法

image.png

九、相似矩阵

1、常规相似矩阵

image.png

2、实对称矩阵的相似矩阵

image.png

十、 Jordan标准型

image.png

十一、Pseudo Inverse伪逆矩阵

伪逆.jpg

十二、Normal Equation正规方程

1、介绍

一种优化方法,求导数的一种方法。【X * θ = Y 推导(左乘转置矩阵变成方阵之后求逆)】


image.png

image.png

image.png

image.png

2、梯度下降与正规方程的对比

image.png

image.png

3、矩阵不可逆时,如何求解θ矩阵

不可逆时有以下两种情况:


image.png

针对1:因为线性相关的向量(有一个是多余的),只需删除一个就好;
针对2:因为太多特征导致,所以需要删除一些特征,或者使用正则化的方法(regularization)

十三、SVD 奇异值分解

如何一个矩阵为方阵,我们可通过它的特征值和特征向量来表示这个矩阵:


image.png

SVD也是对矩阵进行分解,但是和特征分解不同,SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵,那么我们定义矩阵A的SVD为:


image.png

举个例子:对物体进行受力分析,各个方向上力合成最后的力。特征值分解就好比是对最终的力分解成各个方向上的力,特征向量表示力的方向,特征值表示各方向力的大小。

特征值分解针对方针,SVD可以对非方阵进行分解。

十四、参考

https://www.jianshu.com/p/c7f99b138779
https://zhuanlan.zhihu.com/p/35897775
https://www.zhihu.com/search?type=content&q=%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0%20%E4%BF%9D%E7%A0%94%20%E9%A2%98%E7%9B%AE
https://www.cnblogs.com/pinard/p/6251584.html#:~:text=%E5%A5%87%E5%BC%82%E5%80%BC%E5%88%86%E8%A7%A3(Singular%20Value,%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E7%AE%97%E6%B3%95%E7%9A%84%E5%9F%BA%E7%9F%B3%E3%80%82
https://blog.csdn.net/weixin_43871127/article/details/103888679

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,658评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,482评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,213评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,395评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,487评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,523评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,525评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,300评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,753评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,048评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,223评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,905评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,541评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,168评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,417评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,094评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,088评论 2 352