面试中的一个线性代数证明题

问题:

定义矩阵A的范数:||A||_2 = \max_{x \in R, x \ne 0} \frac{||Ax||_2}{||x||_2}A为对称正定阵。

证明:||A||_2 = \lambda(\lambdaA的最大特征值)

证明过程:

证明:||\cdot||_2表示向量的L_2范数,即||x||_2 = \sqrt{x_1^2 + \cdots +x_n^2 } = \sqrt{x^Tx}

由以上定义得:
||A||_2 = \max_{x \in R, x \ne 0}\frac{||Ax||_2}{||x||_2}

= \max_{x \in R, x \ne 0}\frac{\sqrt{(Ax)^T(Ax)}} {\sqrt{x^Tx}}

= \max_{x \in R, x \ne 0}\sqrt{\frac{(Ax)^T(Ax)} {x^Tx}}

= \max_{x \in R, x \ne 0}\sqrt{\frac{(Ax)^T(Ax)} {||x||_2^2}}

= \max_{x \in R, x \ne 0}\sqrt{\frac{x^TA^TAx} {||x||_2^2}}

D=A^TAD为对阵矩阵,则上式等于:

\max_{x \in R, x \ne 0}\sqrt{\frac{x^TDx} {||x||_2^2}}

= \max_{x \in R, x \ne 0}\sqrt{\frac{x^T}{||x||_2}D\frac{x}{||x||_2}}         (1)

令y=\frac{x}{||x||_2},则y为单位矩阵,||y||_2^2= y^T y = 1,(1)式等于:

\max_{y \in R, y \ne 0}\sqrt{y^T D y}

根据条件优化定理(见下面)可得,

\max\sqrt{y^T D y} ,s.t.y^T y = 1的值为D的最大特征值,

又由于D = A^TA,且A为对称矩阵,则A可正交对角化,那么A可通过特征值分解为P \Sigma P^T,则:

D = A^TA = P \Sigma P^T P \Sigma P^T = P \Sigma^2 P^T

可以看出D相似于\Sigma^2,则D\Sigma^2具有相同的特征值,即为A的特征值的平方,

如果A的最大特征值为\lambda,则D的最大特征值为\lambda^2,那么\sqrt{y^T D y}的最大值为\lambda,故:

||A||_2 = \max_{x \in R, x \ne 0} \frac{||Ax||_2}{||x||_2} = \max_{y \in R, y \ne 0}\sqrt{y^T D y}= \lambda,证毕。

条件优化定理:设A是对称矩阵,且mM的定义如下式,那么MD的最大特征值\lambda_1mD的最小特征值。如果y是对应于M的单位特征向量u_1,那么y^TDy的值等于M。 如果y是对应于m的单位特征向量,那么y^TDy的值等于mmM的定义:m = \min\{y^TDy:|y| = 1\}, M = \max\{y^TDy:|y| = 1\}

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容