Unsupervised Few-Shot Learning Via Self-supervised Training

論文地址:https://arxiv.org/abs/1912.12178

1. 通過自監督訓練進行無監督小樣本學習

2. 什麼是unsupervised few-shot learning?

參考 Assume, Augment and Learn: Unsupervised Few-Shot Meta-Learning via Random Labels and Data Augmentation,數據採樣按類別採樣,但不使用真實標籤,而是隨機分配的標籤。本文使用的是聚類之後賦予的僞標籤。它們兩個之間的區別是什麼?思考:元學習當中的meta-train階段,標籤對小樣本任務的意義有多大?
在這裏插入圖片描述

3. 小樣本學習學的是什麼?

在這裏插入圖片描述
小樣本學習本質上是爲了提取數據的好的表示,這種表示適合通過幾個樣本訓練進行的預測。爲了解決這個挑戰,這種劇集訓練方式旨在創建一組劇集小樣本學習情景和測試場景有相同設置,這樣模型學習提取好的表示能夠遷移到新任務或者相關任務。爲了這個目標,數據的實際標籤有幫助但是不必要,而且我們能夠構建僞標籤樣例來訓練模型。但是最重要是,如我們論文證明,僞標籤樣例的構建必須和劇集訓練一起,這樣數據的提取特徵能真正地匹配小樣本學習任務。值得注意的是,這個非監督、漸進式的學習方式和人類的小樣本學習方式一致。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章