注意力機制論文:CCNet: Criss-Cross Attention for Semantic Segmentation及其PyTorch實現

CCNet: Criss-Cross Attention for Semantic Segmentation
PDF: https://arxiv.org/pdf/1811.11721.pdf
PyTorch代碼: https://github.com/shanglianlm0525/PyTorch-Networks

提出了一個CCNet,具有以下優點

• 1）較少的GPU內存使用;
• 2）計算效率高;
• 3）最先進的性能。

1 Criss-Cross Attention

2 Recurrent Criss-Cross Attention

3 CCNet

4 實驗結果

PyTorch代碼: