點擊下面卡片關注“AI算法與圖像處理”，選擇加"星標"或“置頂”
重磅乾貨，第一時間送達
摘要
無監督對比學習在利用CNN學習圖像表徵方面取得了很大的成功。與大多數關注於提高圖像分類精度的最新方法不同，作者提出了一種新的對比學習方法，名爲DetCo，它充分探索了全局圖像和局部圖像塊之間的對比，以學習區分表示用於目標檢測。德科有幾個吸引人的優點。(1)它是通過研究現有的自我監督方法的缺點而精心設計的，這些方法放棄了對象檢測的重要表示。(2)在全局圖像和局部小塊之間建立分層的中間對比損耗來提高目標檢測，同時保持全局表示來進行圖像識別。理論分析表明，局部小塊實際上去除了圖像的上下文信息，提高了互信息的下界，從而更好地進行對比學習。(3)在PASCAL VOC、COCO和cityscape上的大量實驗表明，DetCo不僅在目標檢測、分割、姿態估計和三維形狀預測方面都優於目前最先進的方法，而且在圖像分類方面仍然具有競爭力。例如，在PASCAL VOC上，DetCo-100ep達到了57.4 mAP，與MoCov2-800ep的結果相當。此外，在掩碼RCNN-C4/FPN/RetinaNet上，DetCo始終以1.6/1.2/1.0 AP優於監督方法。
代碼鏈接1：https://github.com/xieenze/DetCo
代碼鏈接2：https://github.com/open-mmlab/OpenSelfSup
這項工作的主要貢獻有三方面。
(1)當自我監督學習表徵被轉移到下游任務時，圖像分類和目標檢測的準確性不一致。作者提出了三種潛在的方法來設計適合的無監督藉口任務用於目標檢測。據作者所知，這是第一次深入研究這一問題的工作。
(2)作者提出了一種新的檢測友好的自我監督方法，DetCo，它能夠結合多個全局和局部的對比損耗來改進對比學習，以訓練用於目標檢測的鑑別表示。理論論證表明，DetCo能夠提高對比學習中互信息的下界。
(3)在PASCAL VOC[15]、COCO[28]和Cityscapes[6]上進行的大量實驗表明，當轉移到不同的下游任務，如對象檢測、分割、姿態估計和三維形狀預測時，DetCo的性能優於以往最先進的方法。
與MoCo相比，DetCo的整體管道。(a)是MoCo的框架，僅從全局角度考慮高層次特徵和學習對比。(b)是作者的DetCo，它直接添加分層中間對比度和兩個額外的局部patch視圖作爲輸入，通過全局和局部表示構建對比度損失。作者的德科通過遵循建議的三個良好實踐來提高檢測轉移能力。注意，T表示圖像變換，Ll2g表示交叉局部和全局特徵的對比損失。Queueg/l表示不同的內存爲全局/本地特性。
由DetCo和MoCov2[5]生成的注意力地圖。與MoCov2相比，DetCo可以更準確地激活熱圖中的目標區域。更多的可視化結果見附錄。
由DetCo和MoCov2製作的注意力地圖。與MoCov2相比，DetCo可以激活更多的熱圖中的物體區域，並且在物體邊界上，DetCo的注意圖比MoCov2更準確。放大以獲得更好的可視化結果。
結論
在本文中，作者重點設計了一個好的目標檢測藉口任務。首先，作者詳細分析了一系列的自監督方法，認爲性能不一致性轉移到分類檢測任務中。其次，作者提出三個良好的實踐來設計一個檢測友好的自我監督學習框架。第三，遵循建議的實踐，作者提出DetCo，具有層次的中間對比損失和交叉全局和局部對比。它在一系列與檢測相關的任務上實現了最先進的性能。作者認爲，對於不同的下游任務，不存在單一的最佳無監督藉口任務，作者將在今後的工作中進行更多的探索。
個人微信（如果沒有備註不拉羣！）
請註明：
地區+學校/企業+研究方向+暱稱
![]()
下載1：何愷明頂會分享
在「AI算法與圖像處理」公衆號後臺回覆：何愷明，即可下載。總共有6份PDF，涉及 ResNet、Mask RCNN等經典工作的總結分析
下載2：終身受益的編程指南：Google編程風格指南
在「AI算法與圖像處理」公衆號後臺回覆：c++，即可下載。歷經十年考驗，最權威的編程規範！
下載3 CVPR2021
在「AI算法與圖像處理」公衆號後臺回覆：
CVPR
，即可下載1467篇CVPR 2020論文 和 CVPR 2021 最新論文
點亮 
，告訴大家你也在看
本文分享自微信公衆號 - AI算法與圖像處理（AI_study）。
如有侵權，請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”，歡迎正在閱讀的你也加入，一起分享。