基於自然圖像先驗的貝葉斯超分重建
一：摘要：
一般方法：用貝葉斯模型來描述問題，然後得到最大後驗概率解，就成爲一個正則化迴歸的問題，但是這並不能充分利用概率模型的優勢。另外，目前的貝葉斯SR方法用後驗均值估計，用比較簡單的後驗均值模型以保證效率。本文提出一種貝葉斯SR方法，用高階MRF模型作爲自然圖像的先驗。最後使用MMSE準則來估計SR圖像。使用MCMC採樣方法來得到最後的MMSE方法的解。
與別的文章的不同
（1）是一個完整的貝葉斯方法，可以HR圖像的先驗知識，或者其他不確定性，例如噪聲的級別。
（2）高階MRF模型用來模型自然圖像統計先驗，也有助於採樣。
（3）MMSE準則代替MAP準則，MAP對局部極大值更加敏感。尤其當用到重尾先驗，容易陷入局部最大值。
二：最近工作
三：自然圖像統計的先驗模型
自然圖像具有它獨有的特徵，和噪聲圖像不一樣。例如局部相關性、邊界、自相似性。自然圖像統計：（1）自然圖像加以梯度濾波後有重尾分佈。可以理解爲：自然圖像是局部平滑的，因此邊際分佈比高斯分佈下降的快。自然圖像有許多的特徵：邊界：導致比高斯分佈嚴重的重尾分佈。除了這些：例如尺度不變性：自然圖像在不同尺度下，重尾分佈是相似的。還有局部像素的相關性。
（1）高斯先驗：梯度圖像的高斯模型
（2）圖像滿足一定的平滑特性。過度平滑圖像
（3）拉普拉斯先驗
保持圖像的不連續性
（4）超拉普拉斯先驗
alpha控制圖像的稀疏性。
自然圖像的概率模型可以統稱爲MRF。在MRF中，自然圖像x的概率f（.）輸入爲爲一個clique，輸出這個clique的能量或者勢。Z是變分函數使得概率之和等於1.成對MPF是典型的MRF：每個像素是一個結點。每個像素和它鄰域像素連接。
前面所說的都是成對MRF，因爲每個clique都只有兩個鄰域像素，因爲是求一階梯度。引入高階MRF：高階MRF的挑戰是勢函數比較難定義。因爲clique的size變大。引入FOE作爲勢函數。它是低維空間的幾個函數的乘積：
Kl是L個梯度濾波器，可以從數據中學習得到。比之前定義好的梯度濾波器的好處：學習得到的濾波器更能得到圖像的統計特徵。Clique實際上是在c點被kl覆蓋的一個patch。MRF模型的一個挑戰是歸一化項Z。方法參考文獻中對比差異和分數匹配。
四、基於自然統計特性的貝葉斯圖像超分
傳統的用正則化項的SR方法不能發揮概率模型的優勢，面臨非凸優化問題。這邊提出一個貝葉斯SR方法，從後驗使用MMSE方法估計HR圖像，使用比較好的通過自然圖像學習的模型。
算法框架：首先從訓練自然圖像中用MRF模型學習一個分佈，用GSM模型作爲它的勢函數。學習到的分佈作爲被估計的SR的先驗。然後HR圖像通過後驗採樣用MMSE標準得到。
由貝葉斯定理：
包含條件概率或者叫似然概率和先驗p（x）。
A.貝葉斯SR構想
（1）條件似然概率：
（2）圖像的先驗模型：FOE模型是一個高階MRF模型，可以捕捉自然圖像的統計信息通過從數據中學習高階濾波器。
因此採用高階FOE模型作爲待估計HR的先驗。
勢函數是高斯尺度混合模型
採用這個模型的兩點好處：（1）方便獲取自然圖像統計信息。（2）便於採樣。
是第l個濾波器的第j個成分的歸一化係數。Sj是第j個高斯成分的尺度參數。
裏面包含的參數：可以通過參考文獻[25]/[32]訓練數據學習得到。
其實是一個零均值的一維高斯混合模型，更因爲先驗模型是高斯混合，可以方便的採樣。
（3）超參數的先驗
把噪聲級別也看成是隨機變量，把它和其他隨機變量一起估計。使用的是gamma分佈：
使用gamma分佈的原因是gamma分佈是高斯分佈的共軛先驗。
（4）後驗
使用貝葉斯後驗平均來估計HR圖像。我們通過從後驗分佈中採樣在估計。
B.貝葉斯SR方法
直接從後驗分佈中採樣是比較難得。加入輔助變量Z，是一個m*L的矩陣，m是是圖像的維數（變成向量）。Z包含的圖像x每個位置每個專家的GSM模型的指標變量。
Zcl=j。
使用MCMC方法進行採樣。
（1）採樣Z：
（2）採樣T
是一個gamma分佈
（3）採樣X
（4）
由於協方差矩陣很大，採樣比較苦難。將x分解：
第一個分量u：
第2個分量V:先採樣。
上述採樣方法都使用參考文章：Gaussian sampling by local perturbations。U和v變量的求解使用共軛梯度法。
得到採樣
估計噪聲
或者：
實現細節：
H是一個高斯濾波器，當放大因子爲3時，標準差爲2。尺寸爲7.濾波在頻域進行，通過FFT完成。
8個專家相乘得到勢函數f（。），L=8.
GSM模型J=15來作爲專家函數。15個成分共享一個基方差參數。
每一個有一個尺度參數
尺寸爲3*3.和GSM從參考文獻[29]用對比散度算法從訓練圖像中學習得到。也就是說這邊高斯模型的方差和均值都是定的，只是係數需要從訓練圖像中學習。
下圖爲學習到的濾波器以及8個專家（具有重尾分佈）和對應的係數。
MCMC中比較重要的一點是收斂條件：我們令M=100，N=20.如果是噪聲圖像M=200.
實驗和結果：
放大因子爲3.和BI、NN、Fast、ScSR、proposed
放大因子爲4，和KRR（通過基於塊的稀疏核迴歸得到HR和LR的映射）、
變分貝葉斯VBSR（用一個簡單的TV模型，通過VB近似，用後驗平均估計HR圖像）。這個方法中，低通濾波器的矩陣是確定的，只能處理小圖像。
和ScSR方法相比較，該方法不需要知道噪聲級別，而且能推斷出噪聲級別。
總結：
SR圖像是用MMSE標準估計而不是傳統的MAP估計的。是後驗平均，而不是最大後驗。
估計HR圖像，我們利用近似MMSE估計的有效採樣。