分裂布雷格曼方法--(Split Bregman Method)

因为毕设做TV去噪去卷积相关的内容,需要用到分裂布雷格曼算法,算是认真读了经典论文《The Split Bregman Method for L1-Regularized Problems》,翻译总结了这个算法一些主要步骤。因为数学基础不太够,所以对这个算法还没有什么太深刻的认识,先挖个坑,把毕设做完了之后再来多写一点东西。

布雷格曼迭代

考虑一个受限优化问题,一个凸能量函数,E,和一个线性函数A。要求解的一般的受限问题是

 .                    5.7

类似与引入拉普拉斯算子的方法,一般我们可以把上述问题转化为

                        5.8 

但是很多问题,我们必须要使比较大才能求解,但是这又会导致很难数值求解。

布雷格曼迭代是一个概念,最初出现在函数分析中求解凸函数的极值。最初被Osher等人引入到图像处理中,应用于TV去噪最优化问题中。先讨论布雷格曼距离,与凸函数在点有关的布雷格曼距离是

     5.9         

其中p是E在v点的子梯度。布雷格曼距离并不是一般意义上的距离,但是它确实度量了在线段u上v和的接近。我们再考虑两个凸能量函数E和H。相关的非受限最小化问题为

                      5.10

我们可以通过迭代求解这个问题

                  

 

利用布雷格曼距离求解首先优化问题,我们希望求解等式5.7给出的受限优化问题,其非受限转化形式由5.8给出。对于等式5.8,应用布雷格曼距离迭代最小化

               

上述形式可以简化为[67]

                    

换句话说,我们只需将约束中的误差加回等式5.17右侧。 这是用于TV去噪的ROF模型中“加回噪声”的类比[66]。

 

分裂布雷格曼迭代

利用分裂布雷格曼迭代的关键是分离L1和L2范数项,考虑最小化问题

.                   (5.19)

将此受限问题转化为无受限问题

                            (5.20)

对等式5.20使用布雷格曼迭代,并应用类似于等式5.17和5.18的简化,我们可以得到简洁的两步算法

       

至此,正则化优化问题已经变化为一系列非受限优化问题和布雷格曼迭代。这个方法比起传统的公式计算正则化优化问题更为简单。接下来我们需要求解等式5.21,因为我们已经分离函数中L1和L2组分,可以通过分别迭代最小化和。我们可以分别通过两步实现

             

  

综上,可以总结得到分裂布雷格曼算法的一般步骤如下所示。至此,本文总结文献给出了分裂布雷格曼方法解决L1范数优化问题的方法,具体的TV去卷积去噪的应用将在第三节给出。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章