transfer learning: 包含所有的source or target, labeled or unlabeled, finetune, multi-task learning的情況。總而言之一句話,訓練的過程中用單個數據集做supervised learning之外的所有情況都算在transfer learning中。
supervised learning: 訓練數據都有標籤(單數據集)
unsupervised learning: 訓練數據無標籤(單數據集)
semi supervised learning: 訓練數據一部分有標籤,一部分沒有標籤(單數據集)
doman adaptation: 單任務,多數據集,target沒有label,source有label
weakly supervised learning: 有標註錯誤,或者標註不全,或者需要做分割任務只有檢測的標籤等(單數據集)
更多的解釋參見下圖:
博文論文中出現的setting總結:
Setting1: universal semi-supervised semantic segmentation。 target和source都一部分有label,一部分沒有label。
Setting2: cross-category semi-supervised semantic segmentation, in-category semi-supervised semantic segementation。
Setting3: partial domain adaptation, source和target都有標籤,source標籤比target多。
Segmentation
1. Weakly- and Semi-Supervised Panoptic Segmentation(ECCV, 2018):
Setting: weakly- and semi-supervised semantic and instance segmentation。weakly: 使用檢測框和類別標籤,訓練得到圖像分割結果。semi: 加入一部分human-annotations(可以理解爲:human class的分割標籤)
Method: 單數據集,結合semantic seg和detector的結果加入instance seg的網絡中,可以得到instance seg的結果。
根據檢測框和物體標籤得到結果的方法:訓練multi-class網絡,不同的分支取conv層的channel,根據檢測框框出物體標籤所在位置,根據該特定位置的heatmap得到粗略的預測分割結果。
Contribution:第一次提出使用weakly supervised non-overlapping instance segmentation。第一次在weakly supervise任務中同時進行semantic and instance segmentation。第一次在cityscapes執行weakly- and semi- supervised任務。
Backbone: psp+resnet101
Datasets: cityscapes, pascal voc.(coco輔助)
2. Penalizing Top Performers: Conservative Loss for Semantic Segmentation Adaptation(ECCV, 2018):
Setting: unsupervised domain adaptation。
Method: 提出了一種新的loss: conservative loss。防止模型學得太差,判別性不足,也不要學得太好,陷入source domain的over fitting。中間部分儘量小,兩端儘量大。概率靠近1的給比較低的loss,防止學得比較好。概率靠近0的,說明這部分需要增加訓練,給高loss,讓其多修改weight。
Contribution:新的loss
Backbone: FCN(vgg16)
Datasets: cityscapes, gtav, synthia
3. Domain Transfer Through Deep Activation Matching(ECCV, 2018):
Setting: unsupervised domain adaptation。
Method: 在網絡中間加很多gan, gan的loss是根據jsd(Jensen-Shannon divergence)計算的。
Contribution:新的loss
Backbone: classification: le-net. segmentation: erf-net
Datasets: classification: mnist, usps, svhn. segmentation: cityscapes, gtav, synthia
4. Partial Adversarial Domain Adaptation(ECCV, 2018):(這篇工作的後續工作--Partial transfer learning with selective adversarial networks.)
Setting: partial domain adaptation, source和target都有標籤,source標籤比target多。
Method: 將adversarial learning用到partial domain adaptation中。
Contribution:將adversarial learning用到partial domain adaptation中。
Backbone: --(pada)
Datasets: office-31, office-home, imagenet-caltech, visda2017
4. Conditional Adversarial Domain Adaptation(NIPS, 2018):
Setting: domain adaptation. 單任務,多數據集。 target沒有label,source有label。
Method: 網絡中間提取的特徵和預測的類別相乘的結果做對抗學習。
Contribution:同method
Backbone: alexnet, resnet-50
Datasets: office-31, imageclef-da, office-home
5. Adversarial Multiple Source Domain Adaptation(NIPS, 2018):
Setting: domain adaptation. 單任務,多數據集。 target沒有label,source有label。
Method: supervised訓練有標籤的數據,多個discriminator區分各個source domain和target domain。
Contribution:同method
Backbone: --
Datasets: mnist, mnist-m, svhn, synthdigits
6. Importance Wegihted Adversarial Nets for Partial Domain Adaptation(CVPR, 2018):
Setting: partial domain adaptation, source和target都有標籤,source標籤比target多。
Method: 加權discriminator(使用第一個d計算權重,第二個d來反傳修改係數)。
Contribution:計算權重的discriminator
Backbone: resnet18
Datasets: office+caltech-10 object datasets, office-31 dataset, caltech-256
7. Object Region Mining with Adversarial Erasing: A Simple Classification to Semantic Segmentation Approach(CVPR, 2017):
Setting: unsupervised semantic segmentation。有分類標籤,訓練得到分割結果。
Method: 對物體分類,物體不同區域對分類的貢獻不同,會有熱圖,去掉響應高的部分(其實是用圖片均值代替),繼續訓練,得到熱圖,然後如此迭代,得到多個網絡,有多個熱圖,拼起來可以粗略分出物體。
Contribution:classification --> segmentation. psl:擦除方法
Backbone: deeplab(vgg16)
Datasets: pascal voc 2012
8. Universal Semi-Supervised Semantic Segmentation(arxiv, 2018):
Setting: universal semi-supervised semantic segmentation。 target和source都一部分有label,一部分沒有label。
Method: 一共兩個數據集,每個數據集。每個數據集有label的數據用supervised learning方法訓練,沒有label的數據用unsupervised learning的方法訓練。unsupervised learning根據相似度算loss。
Contribution:新的setting,unsupervised learning根據相似度算loss
Backbone: resnet18
Datasets: cityscapes, camvid, id, sun rgb-d
9. Transferable Semi-supervised Semantic Segmentation(arxiv, 2018):
Setting: cross-category semi-supervised semantic segmentation, in-category semi-supervised semantic segementation。
Method: l-net: 結合分類標籤和分割標籤訓練得到prediction。p-net: adversarial learning
Contribution:l-net and p-net???
Backbone: DeepLab(vgg16) - L-net. CAM(vgg16) - classification net. 6-3*3 conv layer + 3 fully connected layers - P-net.
Datasets: PASCAL VOC 2012.
10. Virtual-to-Real: Leaning to Control in Visual Semantic Segmentation(IJCAI, 2018):
Network: A3C(對比DR-A3C, ResNet-A3C)
Datasets: ADE20K
ICLR 2018 100 papers: http://search.iclr2018.smerity.com
ECCV 2018 paper: http://openaccess.thecvf.com/content_ECCV_2018/html/
NeurIPS 2018 paper: https://nips.cc/Conferences/2018/Schedule