Transfer Learning 文章解析

transfer learning: 包含所有的source  or target, labeled or unlabeled, finetune, multi-task learning的情況。總而言之一句話,訓練的過程中用單個數據集做supervised learning之外的所有情況都算在transfer learning中。

supervised learning: 訓練數據都有標籤(單數據集)

unsupervised learning: 訓練數據無標籤(單數據集)

semi supervised learning: 訓練數據一部分有標籤,一部分沒有標籤(單數據集)

doman adaptation: 單任務,多數據集,target沒有label,source有label

weakly supervised learning: 有標註錯誤,或者標註不全,或者需要做分割任務只有檢測的標籤等(單數據集)

 

更多的解釋參見下圖:

An Overview of Different Settings of Transfer

 

博文論文中出現的setting總結:

Setting1: universal semi-supervised semantic segmentation。 target和source都一部分有label,一部分沒有label。

Setting2: cross-category semi-supervised semantic segmentation, in-category semi-supervised semantic segementation。

Setting3: partial domain adaptation, source和target都有標籤,source標籤比target多。

 

Segmentation

1. Weakly- and Semi-Supervised Panoptic Segmentation(ECCV, 2018):

Setting: weakly- and semi-supervised semantic and instance segmentation。weakly: 使用檢測框和類別標籤,訓練得到圖像分割結果。semi: 加入一部分human-annotations(可以理解爲:human class的分割標籤)

Method: 單數據集,結合semantic seg和detector的結果加入instance seg的網絡中,可以得到instance seg的結果。

根據檢測框和物體標籤得到結果的方法:訓練multi-class網絡,不同的分支取conv層的channel,根據檢測框框出物體標籤所在位置,根據該特定位置的heatmap得到粗略的預測分割結果。

Contribution:第一次提出使用weakly supervised non-overlapping instance segmentation。第一次在weakly supervise任務中同時進行semantic and  instance segmentation。第一次在cityscapes執行weakly- and semi- supervised任務。

Backbone: psp+resnet101

Datasets: cityscapes, pascal voc.(coco輔助)

 

2. Penalizing Top Performers: Conservative Loss for Semantic Segmentation Adaptation(ECCV, 2018):

Setting: unsupervised domain adaptation。

Method: 提出了一種新的loss: conservative loss。防止模型學得太差,判別性不足,也不要學得太好,陷入source domain的over fitting。中間部分儘量小,兩端儘量大。概率靠近1的給比較低的loss,防止學得比較好。概率靠近0的,說明這部分需要增加訓練,給高loss,讓其多修改weight。

Contribution:新的loss

Backbone: FCN(vgg16)

Datasets: cityscapes, gtav, synthia

 

3. Domain Transfer Through Deep Activation Matching(ECCV, 2018):

Setting: unsupervised domain adaptation。

Method: 在網絡中間加很多gan, gan的loss是根據jsd(Jensen-Shannon divergence)計算的。

Contribution:新的loss

Backbone: classification: le-net. segmentation: erf-net

Datasets: classification: mnist, usps, svhn. segmentation: cityscapes, gtav, synthia

 

4. Partial Adversarial Domain Adaptation(ECCV, 2018):(這篇工作的後續工作--Partial transfer learning with selective adversarial networks.)

Setting: partial domain adaptation, source和target都有標籤,source標籤比target多。

Method: 將adversarial learning用到partial domain adaptation中。

Contribution:將adversarial learning用到partial domain adaptation中。

Backbone: --(pada)

Datasets: office-31, office-home, imagenet-caltech, visda2017

 

4. Conditional Adversarial Domain Adaptation(NIPS, 2018):

Setting: domain adaptation. 單任務,多數據集。 target沒有label,source有label。

Method: 網絡中間提取的特徵和預測的類別相乘的結果做對抗學習。

Contribution:同method

Backbone: alexnet, resnet-50

Datasets: office-31, imageclef-da, office-home

 

5. Adversarial Multiple Source Domain Adaptation(NIPS, 2018):

Setting: domain adaptation. 單任務,多數據集。 target沒有label,source有label。

Method: supervised訓練有標籤的數據,多個discriminator區分各個source domain和target domain。

Contribution:同method

Backbone: --

Datasets: mnist, mnist-m, svhn, synthdigits

 

6. Importance Wegihted Adversarial Nets for Partial Domain Adaptation(CVPR, 2018):

Setting: partial domain adaptation, source和target都有標籤,source標籤比target多。

Method: 加權discriminator(使用第一個d計算權重,第二個d來反傳修改係數)。

Contribution:計算權重的discriminator

Backbone: resnet18

Datasets: office+caltech-10 object datasets, office-31 dataset, caltech-256

 

7. Object Region Mining with Adversarial Erasing: A Simple Classification to Semantic Segmentation Approach(CVPR, 2017):

Setting: unsupervised semantic segmentation。有分類標籤,訓練得到分割結果。

Method: 對物體分類,物體不同區域對分類的貢獻不同,會有熱圖,去掉響應高的部分(其實是用圖片均值代替),繼續訓練,得到熱圖,然後如此迭代,得到多個網絡,有多個熱圖,拼起來可以粗略分出物體。

Contribution:classification --> segmentation. psl:擦除方法

Backbone: deeplab(vgg16)

Datasets: pascal voc 2012

 

8. Universal Semi-Supervised Semantic Segmentation(arxiv, 2018):

Setting: universal semi-supervised semantic segmentation。 target和source都一部分有label,一部分沒有label。

Method: 一共兩個數據集,每個數據集。每個數據集有label的數據用supervised learning方法訓練,沒有label的數據用unsupervised learning的方法訓練。unsupervised learning根據相似度算loss。

Contribution:新的setting,unsupervised learning根據相似度算loss

Backbone: resnet18

Datasets: cityscapes, camvid, id, sun rgb-d

 

9. Transferable Semi-supervised Semantic Segmentation(arxiv, 2018):

Setting: cross-category semi-supervised semantic segmentation, in-category semi-supervised semantic segementation。

Method: l-net: 結合分類標籤和分割標籤訓練得到prediction。p-net: adversarial learning

Contribution:l-net and p-net???

Backbone: DeepLab(vgg16) - L-net. CAM(vgg16) - classification net. 6-3*3 conv layer + 3 fully connected layers - P-net.

Datasets: PASCAL VOC 2012.

 

10. Virtual-to-Real: Leaning to Control in Visual Semantic Segmentation(IJCAI, 2018):

Network: A3C(對比DR-A3C, ResNet-A3C)

Datasets: ADE20K

 

ICLR 2018 100 papers: http://search.iclr2018.smerity.com

ECCV 2018 paper: http://openaccess.thecvf.com/content_ECCV_2018/html/

NeurIPS 2018 paper: https://nips.cc/Conferences/2018/Schedule

 

 

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章