因为毕设做TV去噪去卷积相关的内容,需要用到分裂布雷格曼算法,算是认真读了经典论文《The Split Bregman Method for L1-Regularized Problems》,翻译总结了这个算法一些主要步骤。因为数学基础不太够,所以对这个算法还没有什么太深刻的认识,先挖个坑,把毕设做完了之后再来多写一点东西。
布雷格曼迭代
考虑一个受限优化问题,一个凸能量函数,E,和一个线性函数A。要求解的一般的受限问题是
. 5.7
类似与引入拉普拉斯算子的方法,一般我们可以把上述问题转化为
5.8
但是很多问题,我们必须要使比较大才能求解,但是这又会导致很难数值求解。
布雷格曼迭代是一个概念,最初出现在函数分析中求解凸函数的极值。最初被Osher等人引入到图像处理中,应用于TV去噪最优化问题中。先讨论布雷格曼距离,与凸函数在点有关的布雷格曼距离是
5.9
其中p是E在v点的子梯度。布雷格曼距离并不是一般意义上的距离,但是它确实度量了在线段u上v和的接近。我们再考虑两个凸能量函数E和H。相关的非受限最小化问题为
5.10
我们可以通过迭代求解这个问题
利用布雷格曼距离求解首先优化问题,我们希望求解等式5.7给出的受限优化问题,其非受限转化形式由5.8给出。对于等式5.8,应用布雷格曼距离迭代最小化
上述形式可以简化为[67]
换句话说,我们只需将约束中的误差加回等式5.17右侧。 这是用于TV去噪的ROF模型中“加回噪声”的类比[66]。
分裂布雷格曼迭代
利用分裂布雷格曼迭代的关键是分离L1和L2范数项,考虑最小化问题
. (5.19)
将此受限问题转化为无受限问题
(5.20)
对等式5.20使用布雷格曼迭代,并应用类似于等式5.17和5.18的简化,我们可以得到简洁的两步算法
至此,正则化优化问题已经变化为一系列非受限优化问题和布雷格曼迭代。这个方法比起传统的公式计算正则化优化问题更为简单。接下来我们需要求解等式5.21,因为我们已经分离函数中L1和L2组分,可以通过分别迭代最小化和。我们可以分别通过两步实现
综上,可以总结得到分裂布雷格曼算法的一般步骤如下所示。至此,本文总结文献给出了分裂布雷格曼方法解决L1范数优化问题的方法,具体的TV去卷积去噪的应用将在第三节给出。