伍德伯裏矩陣恆等式(Woodbury matrix identity)


宜言飲酒,與子偕老。琴瑟在御,莫不靜好。

更多精彩內容請關注微信公衆號 “優化與算法

在數學(特別是線性代數)中,Woodbury矩陣恆等式是以Max A.Woodbury命名的,它 可以通過對原矩陣的逆進行秩k校正來計算某個矩陣的秩k校正的逆。這個公式的另一個名字是矩陣逆引理,謝爾曼-莫里森-伍德伯裏(Sherman–Morrison–Woodbury formula)公式或只是伍德伯裏公式。然而,在伍德伯裏發現之前,這一等式出現在其他文獻中。

1. 伍德伯裏矩陣恆等式

(A+UCV)1=A1A1U(C1+VA1U)1VA1\displaystyle \left(A+UCV\right)^{-1}=A^{-1}-A^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}

其中AAUUCCVV都表示適形尺寸的矩陣。具體來說,AA 的大小爲 n×nn×nUUn×kn×kCCk×kk×kVVk×nk×n

2. 擴展

不失一般性,可用單位矩陣替換矩陣A和C:
(I+UV)1=IU(I+VU)1V\displaystyle \left(I+UV\right)^{-1}=I-U\left(I+VU\right)^{-1}V

這裏U=A1X\displaystyle U=A^{-1}X, V=CY\displaystyle V=CY

這個等式本身可以看作是兩個簡單等式的組合,即等式
(I+P)1=I(I+P)1P=IP(I+P)1\displaystyle (I+P)^{-1}=I-(I+P)^{-1}P=I-P(I+P)^{-1}

和所謂的 push-through 等式
(I+UV)1U=U(I+VU)1\displaystyle (I+UV)^{-1}U=U(I+VU)^{-1}的結合。

3. 特殊情況

V,U\displaystyle V,U 是向量時,伍德伯裏恆等式退化爲謝爾曼-莫里森公式,在標量情況下,它(簡化版)只是:
11+uv=1uv1+uv\displaystyle {\frac {1}{1+uv}}=1-{\frac {uv}{1+uv}}

如果 p=qp=qU=V=IpU=V=I_p 是單位矩陣,那麼
(A+B)1=A1A1(B1+A1)1A1 \left({A}+{B}\right)^{-1} =A^{-1}-A^{-1}(B^{-1}+A^{-1})^{-1}A^{-1}

=A1A1(I+BA1)1BA1.={A}^{-1}-{A}^{-1}\left({I}+{B}{A}^{-1}\right)^{-1}{B}{A}^{-1}.
繼續合併上述方程最右邊的項,就可以得到一下恆等式:
(A+B)1=A1(A+AB1A)1\displaystyle \left({A}+{B}\right)^{-1}={A}^{-1}-\left({A}+{A}{B}^{-1}{A}\right)^{-1}

此等式的另一個有用的形式是:
(AB)1=A1+A1B(AB)1\displaystyle \left({A}-{B}\right)^{-1}={A}^{-1}+{A}^{-1}{B}\left({A}-{B}\right)^{-1}

它有一個遞歸結構:
(AB)1=k=0(A1B)kA1\displaystyle \left({A}-{B}\right)^{-1}=\sum _{k=0}^{\infty }\left({A}^{-1}{B}\right)^{k}{A}^{-1}

這種形式可用於微擾展開式,其中 BBAA 的微擾。

4. 推廣

二項式逆定理(Binomial Inverse Theorem)
如果 AAUUBBVV 分別是 p×pp×pp×qp×qq×qq×qq×pq×p的矩陣,那麼:
(A+UBV)1=A1A1UB(B+BVA1UB)1BVA1\displaystyle \left(A+UBV\right)^{-1}=A^{-1}-A^{-1}UB\left(B+BVA^{-1}UB\right)^{-1}BVA^{-1}

前提是 AAB+BVA1UBB+BVA-1UB 是非奇異的。後者的非奇異性要求 B1B^{-1} 存在,因爲它等於 BI+VA1ubB(I+VA=1ub),並且後者的秩不能超過 BB 的秩。由於 BB 是可逆的,所以在右手邊的附加量逆的兩邊的兩個 BB 項可以被 (B1)1(B^{-1})^{-1} 替換,從而得到原始的Woodbury恆等式:
(A+UBV)1=A1A1U(I+BVA1U)1BVA1\displaystyle (A+UBV)^{-1}=A^{-1}-A^{-1}U(I+BVA^{-1}U)^{-1}BVA^{-1}

在某些情況下,AA 是有可能是奇異的。

5. 延伸

公式可以通過檢查 A+UCVA+UCV 乘以伍德伯裏恆等式右側的所謂逆得到恆等式矩陣來證明:
(A+UCV)[A1A1U(C1+VA1U)1VA1]\left(A+UCV\right)\left[A^{-1}-A^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right]
={IU(C1+VA1U)1VA1}+{UCVA1UCVA1U(C1+VA1U)1VA1}=={}\left\{I-U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}+\left\{UCVA^{-1}-UCVA^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}={}
{I+UCVA1}{U(C1+VA1U)1VA1+UCVA1U(C1+VA1U)1VA1}=\left\{I+UCVA^{-1}\right\}-\left\{U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}+UCVA^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}=
+UCVA1(U+UCVA1U)(C1+VA1U)1VA1=+UCVA^{-1}-\left(U+UCVA^{-1}U\right)\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}=
+UCVA1UC(C1+VA1U)(C1+VA1U)1VA1+UCVA1UCVA1(A+B)1+UCVA^{-1}-UC\left(C^{-1}+VA^{-1}U\right)\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}+UCVA^{-1}-UCVA^{-1}\left({A}+{B}\right)^{-1} =A1A1(B1+A1)1A1=A^{-1}-A^{-1}(B^{-1}+A^{-1})^{-1}A^{-1}$
=A1A1(I+BA1)1BA1.={A}^{-1}-{A}^{-1}\left({I}+{B}{A}^{-1}\right)^{-1}{B}{A}^{-1}..

參考文獻

https://en.wikipedia.org/wiki/Woodbury_matrix_identity

更多精彩內容請關注微信公衆號 “優化與算法

在這裏插入圖片描述

發佈了11 篇原創文章 · 獲贊 4 · 訪問量 2048
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章