CVPR2018:論文筆記

論文:《Image Super-Resolution via Deterministic-Stochastic Synthesis and Local Statistical Rectification》

摘要

高分辨率圖像由兩部分組成,可確定部分和隨即部分。確定性部分可以從低分辨率圖像中恢復,隨機部分和低分辨率圖像相關性很小。我們採用兩個互補方法分別生成這兩部分。對抗生成網絡用於生成隨機部分,確定部分可視爲一個迴歸問題用深層神經網絡來生成。因爲確定部分擁有明確的局部方向性,我們針對其設計了新穎的損失函數。首次使用兩種方法對輸入圖片生成兩個不同的高分辨率圖像。隨後,將這兩個生成圖片用另一個深層神經網絡融合,這一步有局部統計修正效果(?),使得融合圖片的局部統計值和GT匹配。

These two methods are first applied to the entire input image to produce two distinct high-resolution images. Afterwards, these two images are fused together using another deep neural network that also performs local statistical rectification, which tries to make the local statistics of the fused image match the same local statistics of the groundtruth image.

 

相關工作

Exemplar or Dictionary Based Super-Resolution

模板或字典的超分方法。

和[Tai et al. 2010]方法有兩點不同:1、在我們的模型中,確定成分不僅僅指邊緣像素,還包括紋理區域(texture region)。2、[Tai et al. 2010]同等看待所有邊緣像素,本文認爲在紋理區域的邊緣像素不是結構像素,因爲他們不含有空間相關性,不能組成直線或者曲線。

Deep Learning Based Super-Resolution

給定低分辨率和高分辨率圖像對,可以將超分問題視爲迴歸問題。SRCNN,VDSR,SRResNet,LapSRN。儘管使用MAE和MSE損失會帶來很好的數值指標評估結果,比如PSNR和SSIM,這些損失函數並不能增強視覺效果。

早期討論中,SISR是一個病態問題,只有確定成分可以從低分辨率的圖像中恢復,雖然恢復了高分辨率圖像的結構,卻缺少豐富的高頻細節信息,這些信息來源於隨機成分。GANs網絡的提出改進了這一問題,比如SRGAN。然而,GANs網絡只能判斷生成的細節看起來是否自然,但是卻不能分辨這種細節是否和低分辨率輸入相匹配。有的時候,GANs網絡的生成甚至會破壞已存在的圖像結構。

本文用一種折中的方法解決了結構像素和非結構像素的問題。增加了新的損失函數,使生成圖片的隨機成分細節不僅看來真實,還和輸入相匹配。

Texture Enhancement Based Super Resolution

Huang et al. [2015],Ahn et al. [2016],Sun et al. [2017]將超分問題看作一個有約束的紋理轉換問題。

自然圖像中的高頻細節是非常複雜的並且空間相關。現存的基於紋理增強的SISR方法用了均勻紋理,並不能明確紋理圖像到高分辨率圖像之間的空間映射關係。本文提出使用Gram矩陣相關矩陣得到統計特徵,基於統計特徵使生成的隨機成分(細節部分)和高分辨率圖像更好的匹配。

 

Style Transfer and Texture Synthesis.

Gatys et al. [2016] 和Sendik et al. [2017]分別使用全局的gram矩陣和全局相關矩陣。

本文使用局部gram矩陣和局部相關矩陣

 

overview

三步:1、生成確定成分的高分辨率圖像:I^{hr,d}和隨即成分的高分辨率圖像:I^{hr,t}

2、兩者融合。

3、引入局部空間統計量,修正融合圖像裏的隨機成分。

一、高分辨率確定成分重建

網絡結構:

三個損失:

(1)Color Loss

也就是我們平時用的L1損失,計算像素之間的差值。

(2)Generalized Gradient Loss

爲了強調邊緣和局部結構,設計了生成梯度損失(generalized gradient loss)。

爲了提高確定成分的高分辨率圖像,我們希望I^{hr,d}的生成梯度I^{hr}相似。

像素(m,n)處的生成梯度向量可以被看做一個特徵向量,包括像素點(m,n)和他領域rxr中的點的差值。

(3)

二、高分辨率隨機成分

三、隨機成分和確定成分融合

四、計算局部統計量修正

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章