論文閱讀:Removing rain from single images via a deep detail network

之前的概述所包含的文章內容主要包括了視頻的去雨,以及基於傳統方法(像核迴歸非局部均值濾波、低秩矩陣、基於Patch的建模、判別稀疏編碼、GMM層先驗等等)的單幅圖像去雨。
從這篇往後會認真看去雨的網絡方法。

1、2017CVPR : DDN

在這裏插入圖片描述

這篇文章主要基於深度卷積神經網絡以及ResNet,提出了一種深度細節網絡用於減少從輸入到輸出的映射範圍,使得學習過程更簡單。
同時使用先驗圖像域知識,在訓練中聚焦於高頻細節,去除背景干擾,將模型聚焦於圖像中雨的結構。
CNN可以有效提高模型探索捕捉各種特徵的能力。
ResNet可以直接減少從輸入到輸出的映射範圍。

本文的貢獻:
1、使用了一種無損的負殘差映射,用於定義乾淨圖像和雨圖之間的差異。預測殘差來減少映射範圍。
2、採用了ResNet結構作爲圖像特徵深入探索的參數層,同時利用先驗知識並使用圖像細節層作爲輸入,而不是直接在圖像上應用ResNet。這樣便去除了背景干擾,細節層大部分像素都接近0.
3、合成了一個包含14000對乾淨雨圖的數據集。

網絡框架
在這裏插入圖片描述
其中,參數層結構爲ResNet結構。

在這裏插入圖片描述

從左至右分別是直接連接的網絡(只有從上到下的直接連接,包括conv,BN,ReLU,沒有別的連接結構)、負殘差映射(增添了一條直接跨越整個網絡的跳躍連接,傳遞無損信息)、ResNet網絡結構、ResNet+負殘差網絡結構、DDN(相比前一個,多了一個分解模塊,分解出高頻細節層)

在這裏插入圖片描述

如圖,直接連接的網絡存在嚴重的顏色偏移,ResNet網絡結構處理的圖片羽毛部分出現模糊,負殘差映射則是保留了顏色和對象細節但仍然存在一些雨紋,Neg-mapping + ResNet 還存在一些微小的細雨紋。

負殘差比ResNet的訓練及測試誤差更小。

具體網絡設計:

1、深度CNN網絡的目標函數:
在這裏插入圖片描述

2、負殘差映射:
Y-X 減少了像素值的範圍,同時跳躍連接用於傳播無損信息。
在這裏插入圖片描述
3、細節層作輸入

在這裏插入圖片描述

將含雨圖像X過一個低通濾波,本文采用指導濾波,得到Xbase,主要是背景部分。
X- Xbase 得到細節層,主要包含雨紋以及物體結構。高頻成分。細節層的稀疏性利用

4、最終的目標函數:
在這裏插入圖片描述
其中f是ResNet,W、b是要學習的網絡參數。

5、基本的網絡結構:
在這裏插入圖片描述
網絡結構中刪除了池化操作,保留空間信息。

6、與ResNet的不同:

網絡結構雖是基於ResNet進行修改,但還是有很多不同。
ResNet通過改變映射形式來簡化學習過程,而我們的深度細節網絡使用負映射直接減少了映射範圍。ResNet旨在爲高級視覺任務(如圖像分類和目標檢測)訓練一個極深的神經網絡。我們的深度網絡利用圖像領域的知識來解決圖像迴歸問題,提高圖像質量。
ResNet使用圖像本身作爲網絡的輸入,而我們的網絡使用細節層進行改進的訓練,以及提出的負映射。

訓練:
使用隨機梯度下降法(SGD)來最小化目標函數。
數據集:1000張乾淨的圖片增添14個不同方向和強度的雨紋,生成14000張圖片。
環境:Caffe,耗費14個小時。
參數:
在這裏插入圖片描述

分頁符

發佈了26 篇原創文章 · 獲贊 4 · 訪問量 4457
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章