[CVPRW 16]Learning Discriminative Features with Class Encoder
Hailin Shi, Xiangyu Zhu, Zhen Lei, Shengcai Liao, Stan Z. Li
from NLPR, CAS-IA
Intuition:
在使用softmax loss進行監督分類訓練的同時，使用metric learning的輔助任務使網絡學習到更加有區分度的特徵。
Method:
框架圖如下：
與一般的分類網絡相比，該方法在全連接層有兩條不同的數據通路：
1. 傳統的分類訓練。fc1 -> fc2 -> fc_output -> softmax loss
2. 將fc2視作fc1的編碼器，在fc2後加一層解碼器恢復出fc1的特徵。fc1 -> fc2 -> fc_decode。
fc_decode得到的特徵與其它同類數據的fc1特徵作歐氏距離，並優化這個距離。相當於使用該特徵作只有正樣本的contrastive loss。
實驗和可視化結果能夠證明該方法的有效性，能夠提升模型性能，使特徵更加有區分度。
但是，如果不使用decoder的思想，而是直接在fc1之上直接使用contrastive loss，會不會是一種簡化的等效模型？
