Woodbury矩阵恒等式证明及推论

Woodbury矩阵恒等式又称矩阵求逆引理,由该引理可以证明push-through矩阵恒等式、Sherman-Morrison 定理等,下面给出Woodbury矩阵恒等式的具体形式。

     {(A + BCD)^{ - 1}} = {A^{ - 1}} - {A^{ - 1}}B{({C^{ - 1}} + D{A^{ - 1}}B)^{ - 1}}D{A^{ - 1}}

其中,{(A + BCD)^{ - 1}}AC{C^{ - 1}} + D{A^{ - 1}}B可逆,为了方便,我们设Am \times mBm \times nCn \times nDn \times m

下面给出证明:

首先考虑{A + BCD},我们将右乘{A^{ - 1}},有:

                    (A + BCD){A^{ - 1}} = I + BCD{A^{ - 1}}

为了和右式的{C^{ - 1}} + D{A^{ - 1}}B建立联系,我们右乘B,有:

                 (I + BCD{A^{ - 1}})B = B + BCD{A^{ - 1}}B

由于C可逆,所以:

              (A + BCD){A^{ - 1}}B = BC({C^{ - 1}} + D{A^{ - 1}}B)

由于{C^{ - 1}} + D{A^{ - 1}}B可逆,所以:

            BC = (A + BCD){A^{ - 1}}B{({C^{ - 1}} + D{A^{ - 1}}B)^{ - 1}}

为了与Woodbury恒等式的左边相联系,同时发现右边的一项右乘了DA^{-1},自然的想法就是,我们将BC配成A+BCD,有:

    A+BCD = A+(A + BCD){A^{ - 1}}B{({C^{ - 1}} + D{A^{ - 1}}B)^{ - 1}}D

再右乘A^{-1},就出现了等式右边的那一项:

(A + BCD){A^{ - 1}} = I + (A + BCD){A^{ - 1}}B{({C^{ - 1}} + D{A^{ - 1}}B)^{ - 1}}D{A^{ - 1}}

现在就很显然了,为了匹配右边的那一项,我们肯定要左乘(A+BCD)^{-1},于是有:

      {A^{ - 1}} = {(A + BCD)^{ - 1}} + {A^{ - 1}}B{({C^{ - 1}} + D{A^{ - 1}}B)^{ - 1}}D{A^{ - 1}}

移项即可,有:

       {(A + BCD)^{ - 1}}= {A^{ - 1}} - {A^{ - 1}}B{({C^{ - 1}} + D{A^{ - 1}}B)^{ - 1}}D{A^{ - 1}}

证明完毕。

一个简单的记忆和推导方式

只要清楚(A+BCD)^{-1}的逆是A^{-1}+X的形式,通过解关于X的方程即可推出Woodbury矩阵恒等式。下面给出某博主的求解思路:

矩阵求逆引理(matrix inversion lemma)冬瓜班小朋友的博客-CSDN博客矩阵求逆引理

特殊情形

● 当AC是单位阵时,Woodbury矩阵恒等式可以变成:

               {(I + BD)^{ - 1}} = I - B{(I + DB)^{ - 1}}D

这个等式可以让我们联想到:
         {(I + P)^{ - 1}} = I - P{(I + P)^{ - 1}} = I - {(I + P)^{ - 1}}P

以及push-through等式:

                   {(I + BD)^{ - 1}}B = B{(I + DB)^{ - 1}}

关于这个不等式的证明只需左乘I+BD,提取公因式,化简即可。当然Woodbury矩阵恒等式也可以通过这两个等式配凑得到。

● 当BD是单位阵时,Woodbury矩阵恒等式可以变成:

          {(A + C)^{ - 1}} = {A^{ - 1}} - {A^{ - 1}}{({C^{ - 1}} + {A^{ - 1}})^{ - 1}}{A^{ - 1}}

化简可以得到:

               {(A + C)^{ - 1}} = {C^{ - 1}}{({C^{ - 1}} + {A^{ - 1}})^{ - 1}}{A^{ - 1}}

证明思路是将右边第二项的A^{-1}凑成-C^{-1}+C^{-1}+A^{-1},两边展开化简,即可得到。

推论

● Sherman-Morrison 定理(秩1校正定理)
A \in {R^n}可逆,向量u,v \in {R^n},若1 + {v^T}{A^{ - 1}}u \ne 0,则秩一校正矩阵为A + u{v^T}可逆,其逆矩阵为:
                {(A + u{v^T})^{ - 1}} = {A^{ - 1}} - \frac{{{A^{ - 1}}u{v^T}{A^{ - 1}}}}{{1 + {v^T}{A^{ - 1}}u}}

关于这个定理的推广,可见这两篇文章:

秩一校正定理 - 知乎 (zhihu.com)

Sherman-Morrison公式及其应用_山阴少年-CSDN博客

● 拟牛顿法,见这位博主写的文章:

Sherman-Morrison-Woodburg 定理_Liang_Ling的博客-CSDN博客

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容