ATSS(Adaptive Training Sample Selection)是一種新的樣本選擇方法,和傳統的設置一個固定的IOU閾值不同,ATSS對每一個GT Box,根據它的統計信息計算出一個IOU閾值.具體的算法如下圖所示：
對每一個GT box,在特徵金字塔FPN的每一層,選擇距離中心最近的k個anchor box,然後計算所有這些anchor box和這個GT box的IOU,再計算所有這些IOU的均值mg和方差vg,計算出閾值tg=mg+vg.這是因爲,如果均值mg高,說明IOU普遍較高,那麼就應該適當提高IOU閾值.如果方差vg高,說明IOU高的anchor box集中在一層,那麼就應該提高tg,集中在這一層選擇樣本,如下圖(a)所示；如果方差vg低,說明IOU高的anchor box分佈在多層,那麼就應該降低tg,在多層選擇樣本,如下圖(b)所示.
在RetinaNet和FCOS上應用了ATSS,實驗結果表明,mAP提高了0.8~2.9個百分點.