分裂佈雷格曼方法--(Split Bregman Method)

因爲畢設做TV去噪去卷積相關的內容,需要用到分裂佈雷格曼算法,算是認真讀了經典論文《The Split Bregman Method for L1-Regularized Problems》,翻譯總結了這個算法一些主要步驟。因爲數學基礎不太夠,所以對這個算法還沒有什麼太深刻的認識,先挖個坑,把畢設做完了之後再來多寫一點東西。

佈雷格曼迭代

考慮一個受限優化問題,一個凸能量函數,E,和一個線性函數A。要求解的一般的受限問題是

 .                    5.7

類似與引入拉普拉斯算子的方法,一般我們可以把上述問題轉化爲

                        5.8 

但是很多問題,我們必須要使比較大才能求解,但是這又會導致很難數值求解。

佈雷格曼迭代是一個概念,最初出現在函數分析中求解凸函數的極值。最初被Osher等人引入到圖像處理中,應用於TV去噪最優化問題中。先討論佈雷格曼距離,與凸函數在點有關的佈雷格曼距離是

     5.9         

其中p是E在v點的子梯度。佈雷格曼距離並不是一般意義上的距離,但是它確實度量了在線段u上v和的接近。我們再考慮兩個凸能量函數E和H。相關的非受限最小化問題爲

                      5.10

我們可以通過迭代求解這個問題

                  

 

利用佈雷格曼距離求解首先優化問題,我們希望求解等式5.7給出的受限優化問題,其非受限轉化形式由5.8給出。對於等式5.8,應用佈雷格曼距離迭代最小化

               

上述形式可以簡化爲[67]

                    

換句話說,我們只需將約束中的誤差加回等式5.17右側。 這是用於TV去噪的ROF模型中“加回噪聲”的類比[66]。

 

分裂佈雷格曼迭代

利用分裂佈雷格曼迭代的關鍵是分離L1和L2範數項,考慮最小化問題

.                   (5.19)

將此受限問題轉化爲無受限問題

                            (5.20)

對等式5.20使用佈雷格曼迭代,並應用類似於等式5.17和5.18的簡化,我們可以得到簡潔的兩步算法

       

至此,正則化優化問題已經變化爲一系列非受限優化問題和佈雷格曼迭代。這個方法比起傳統的公式計算正則化優化問題更爲簡單。接下來我們需要求解等式5.21,因爲我們已經分離函數中L1和L2組分,可以通過分別迭代最小化和。我們可以分別通過兩步實現

             

  

綜上,可以總結得到分裂佈雷格曼算法的一般步驟如下所示。至此,本文總結文獻給出了分裂佈雷格曼方法解決L1範數優化問題的方法,具體的TV去卷積去噪的應用將在第三節給出。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章