定義:Alternating Direction Method of Multipliers(ADMM)算法並不是一個很新的算法,他只是整合許多不少經典優化思路,然後結合現代統計學習所遇到的問題,提出了一個比較一般的比較好實施的分佈式計算框架。在瞭解ADMM之前,需要了解它的前身,對偶上升法(Dual Ascent)和增強拉格朗日乘子法(Augmented Lagrangians and the Method of Multipliers)。
可以參考如下資料:
【1】Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers(第7頁到第15頁)
【2】分佈式計算、統計學習與ADMM算法