1. Motivation
提出問題:
- 在高光譜影像分類任務中,所有的波段對CNN的貢獻是否相同?
- 如果不相同,如何在端到端網絡中找到有助於高光譜數據分類的波段?
- 是否可以通過強調網絡中有用的波段和抑制網絡中不太有用的波段來改善CNN的分類結果?
核心思想:將channel attention的思想轉換爲spectral attention
2. Structure of Model
- 總體結構
- 詳細結構
圖中紅框部分爲光譜注意力模型,輸入高光譜數據尺寸爲H×W×C,注意這裏的C指的是波段數。其他的就和SE Block相同,首先全局平均池化,然後全連接,然後通過sigmoid輸出每個波段的權重(0~1),最後與輸入做element-wise multiply,得到重新標定波段後的高光譜數據。
- interesting work
作者做了一個沒有引入attention機制和引入後的對比,通過可視化可以直觀地看到引入注意力機制後有一部分波段被抑制,很有可能這些波段在分類過程中引入了噪聲,所以在抑制後能夠提升網絡的分類精度。
3. Datasets
- Indian Pines
- Pavia University
- Salinas
- Houston(Image Analysis and Data Fusion Technical Committee of IEEE GRSS in 2012)
數據集劃分方式:每類隨機選取相同數量或者相接近的數量,以避免類別不均衡的問題。
總結
attention機制真的很work!channel attention、spatial attention、spectral attention
似曾相識,按照劇本,下一步就是三者的結合了
參考之前寫的這篇總結:經典網絡結構總結–SENet系列
寫在最後:作者的寫作思路很強,值得借鑑!