因爲畢設做TV去噪去卷積相關的內容,需要用到分裂佈雷格曼算法,算是認真讀了經典論文《The Split Bregman Method for L1-Regularized Problems》,翻譯總結了這個算法一些主要步驟。因爲數學基礎不太夠,所以對這個算法還沒有什麼太深刻的認識,先挖個坑,把畢設做完了之後再來多寫一點東西。
佈雷格曼迭代
考慮一個受限優化問題,一個凸能量函數,E,和一個線性函數A。要求解的一般的受限問題是
. 5.7
類似與引入拉普拉斯算子的方法,一般我們可以把上述問題轉化爲
5.8
但是很多問題,我們必須要使比較大才能求解,但是這又會導致很難數值求解。
佈雷格曼迭代是一個概念,最初出現在函數分析中求解凸函數的極值。最初被Osher等人引入到圖像處理中,應用於TV去噪最優化問題中。先討論佈雷格曼距離,與凸函數在點有關的佈雷格曼距離是
5.9
其中p是E在v點的子梯度。佈雷格曼距離並不是一般意義上的距離,但是它確實度量了在線段u上v和的接近。我們再考慮兩個凸能量函數E和H。相關的非受限最小化問題爲
5.10
我們可以通過迭代求解這個問題
利用佈雷格曼距離求解首先優化問題,我們希望求解等式5.7給出的受限優化問題,其非受限轉化形式由5.8給出。對於等式5.8,應用佈雷格曼距離迭代最小化
上述形式可以簡化爲[67]
換句話說,我們只需將約束中的誤差加回等式5.17右側。 這是用於TV去噪的ROF模型中“加回噪聲”的類比[66]。
分裂佈雷格曼迭代
利用分裂佈雷格曼迭代的關鍵是分離L1和L2範數項,考慮最小化問題
. (5.19)
將此受限問題轉化爲無受限問題
(5.20)
對等式5.20使用佈雷格曼迭代,並應用類似於等式5.17和5.18的簡化,我們可以得到簡潔的兩步算法
至此,正則化優化問題已經變化爲一系列非受限優化問題和佈雷格曼迭代。這個方法比起傳統的公式計算正則化優化問題更爲簡單。接下來我們需要求解等式5.21,因爲我們已經分離函數中L1和L2組分,可以通過分別迭代最小化和。我們可以分別通過兩步實現
綜上,可以總結得到分裂佈雷格曼算法的一般步驟如下所示。至此,本文總結文獻給出了分裂佈雷格曼方法解決L1範數優化問題的方法,具體的TV去卷積去噪的應用將在第三節給出。