CNN-Visualization 卷積神經網絡訓練可視化

CNN可視化

https://github.com/scutan90/CNN-Visualization/blob/master/CNN可視化.md
https://github.com/utkuozbulak/pytorch-cnn-visualizations
參考文獻：胡秀. 基於卷積神經網絡的圖像特徵可視化研究[D].

對 CNN 模型的可解釋性問題，也稱之爲深度可視化問題[35]。目前深度可視化方法主要分爲兩大類，一類通過前向計算直接可視化深度卷積網絡每一層的卷積核以及提取的特徵圖，然後觀察其數值變化。一個訓練成功的 CNN 網絡，其特徵圖的值會伴隨網絡深度的加深而越來越稀疏。

另一類可視化方法則通過反向計算，將低維度的特徵圖反向傳播至原圖像像素空間，觀察特徵圖被原圖的哪一部分激活，從而理解特徵圖從原圖像中學習了何種特徵。經典方法有反捲積(Deconvolution)[36]和導向反向傳播(Guided-backpropagation)。這兩種方法能夠在一定程度上“看到”CNN模型中較深的卷積層所學習到的特徵。從本質上說，反捲積和導向反向傳播的基礎都是反向傳播，即對輸入進行求導。二者唯一的區別在於反向傳播過程中經過 ReLU 層時對梯度的處理策略不同。雖然藉助反捲積和導向反向傳播方法，能夠了解 CNN模型神祕的內部，但這些方法同時把所有能提取的特徵都展示出來了，而對類別並不敏感，因此還不能解釋 CNN 分類的結果。

https://blog.csdn.net/shenziheng1/article/details/85058430
窺探黑盒-卷積神經網絡的可視化