伍德伯里矩阵恒等式(Woodbury matrix identity)


宜言饮酒,与子偕老。琴瑟在御,莫不静好。

更多精彩内容请关注微信公众号 “优化与算法

在数学(特别是线性代数)中,Woodbury矩阵恒等式是以Max A.Woodbury命名的,它 可以通过对原矩阵的逆进行秩k校正来计算某个矩阵的秩k校正的逆。这个公式的另一个名字是矩阵逆引理,谢尔曼-莫里森-伍德伯里(Sherman–Morrison–Woodbury formula)公式或只是伍德伯里公式。然而,在伍德伯里发现之前,这一等式出现在其他文献中。

1. 伍德伯里矩阵恒等式

(A+UCV)1=A1A1U(C1+VA1U)1VA1\displaystyle \left(A+UCV\right)^{-1}=A^{-1}-A^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}

其中AAUUCCVV都表示适形尺寸的矩阵。具体来说,AA 的大小为 n×nn×nUUn×kn×kCCk×kk×kVVk×nk×n

2. 扩展

不失一般性,可用单位矩阵替换矩阵A和C:
(I+UV)1=IU(I+VU)1V\displaystyle \left(I+UV\right)^{-1}=I-U\left(I+VU\right)^{-1}V

这里U=A1X\displaystyle U=A^{-1}X, V=CY\displaystyle V=CY

这个等式本身可以看作是两个简单等式的组合,即等式
(I+P)1=I(I+P)1P=IP(I+P)1\displaystyle (I+P)^{-1}=I-(I+P)^{-1}P=I-P(I+P)^{-1}

和所谓的 push-through 等式
(I+UV)1U=U(I+VU)1\displaystyle (I+UV)^{-1}U=U(I+VU)^{-1}的结合。

3. 特殊情况

V,U\displaystyle V,U 是向量时,伍德伯里恒等式退化为谢尔曼-莫里森公式,在标量情况下,它(简化版)只是:
11+uv=1uv1+uv\displaystyle {\frac {1}{1+uv}}=1-{\frac {uv}{1+uv}}

如果 p=qp=qU=V=IpU=V=I_p 是单位矩阵,那么
(A+B)1=A1A1(B1+A1)1A1 \left({A}+{B}\right)^{-1} =A^{-1}-A^{-1}(B^{-1}+A^{-1})^{-1}A^{-1}

=A1A1(I+BA1)1BA1.={A}^{-1}-{A}^{-1}\left({I}+{B}{A}^{-1}\right)^{-1}{B}{A}^{-1}.
继续合并上述方程最右边的项,就可以得到一下恒等式:
(A+B)1=A1(A+AB1A)1\displaystyle \left({A}+{B}\right)^{-1}={A}^{-1}-\left({A}+{A}{B}^{-1}{A}\right)^{-1}

此等式的另一个有用的形式是:
(AB)1=A1+A1B(AB)1\displaystyle \left({A}-{B}\right)^{-1}={A}^{-1}+{A}^{-1}{B}\left({A}-{B}\right)^{-1}

它有一个递归结构:
(AB)1=k=0(A1B)kA1\displaystyle \left({A}-{B}\right)^{-1}=\sum _{k=0}^{\infty }\left({A}^{-1}{B}\right)^{k}{A}^{-1}

这种形式可用于微扰展开式,其中 BBAA 的微扰。

4. 推广

二项式逆定理(Binomial Inverse Theorem)
如果 AAUUBBVV 分别是 p×pp×pp×qp×qq×qq×qq×pq×p的矩阵,那么:
(A+UBV)1=A1A1UB(B+BVA1UB)1BVA1\displaystyle \left(A+UBV\right)^{-1}=A^{-1}-A^{-1}UB\left(B+BVA^{-1}UB\right)^{-1}BVA^{-1}

前提是 AAB+BVA1UBB+BVA-1UB 是非奇异的。后者的非奇异性要求 B1B^{-1} 存在,因为它等于 BI+VA1ubB(I+VA=1ub),并且后者的秩不能超过 BB 的秩。由于 BB 是可逆的,所以在右手边的附加量逆的两边的两个 BB 项可以被 (B1)1(B^{-1})^{-1} 替换,从而得到原始的Woodbury恒等式:
(A+UBV)1=A1A1U(I+BVA1U)1BVA1\displaystyle (A+UBV)^{-1}=A^{-1}-A^{-1}U(I+BVA^{-1}U)^{-1}BVA^{-1}

在某些情况下,AA 是有可能是奇异的。

5. 延伸

公式可以通过检查 A+UCVA+UCV 乘以伍德伯里恒等式右侧的所谓逆得到恒等式矩阵来证明:
(A+UCV)[A1A1U(C1+VA1U)1VA1]\left(A+UCV\right)\left[A^{-1}-A^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right]
={IU(C1+VA1U)1VA1}+{UCVA1UCVA1U(C1+VA1U)1VA1}=={}\left\{I-U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}+\left\{UCVA^{-1}-UCVA^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}={}
{I+UCVA1}{U(C1+VA1U)1VA1+UCVA1U(C1+VA1U)1VA1}=\left\{I+UCVA^{-1}\right\}-\left\{U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}+UCVA^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}=
+UCVA1(U+UCVA1U)(C1+VA1U)1VA1=+UCVA^{-1}-\left(U+UCVA^{-1}U\right)\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}=
+UCVA1UC(C1+VA1U)(C1+VA1U)1VA1+UCVA1UCVA1(A+B)1+UCVA^{-1}-UC\left(C^{-1}+VA^{-1}U\right)\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}+UCVA^{-1}-UCVA^{-1}\left({A}+{B}\right)^{-1} =A1A1(B1+A1)1A1=A^{-1}-A^{-1}(B^{-1}+A^{-1})^{-1}A^{-1}$
=A1A1(I+BA1)1BA1.={A}^{-1}-{A}^{-1}\left({I}+{B}{A}^{-1}\right)^{-1}{B}{A}^{-1}..

参考文献

https://en.wikipedia.org/wiki/Woodbury_matrix_identity

更多精彩内容请关注微信公众号 “优化与算法

在这里插入图片描述

发布了11 篇原创文章 · 获赞 4 · 访问量 2048
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章