論文《Unsupervised Continual Learning And Self-Taught Associative Memory Hierarchies》解讀

本論文提出了一個無監督的持續學習組件STAM(Self-Taught Associative Memory)
如下圖：

上圖中，$C_i$爲所有聚類簇的集合。當一個圖片$X_i$輸入到這個結構中時，會被打碎成若干個重疊的可接受域(Receptive Fields,RFs)。需要注意的是，每一個STAM結構處理一個可接受域。這些可接受域經過函數$c(x_{i,m})=\argmin_{j=1...|C_i|} ||x_{i,m}-w_{i,j}||$的處理會將各個可接受域轉爲相應的聚類簇。上圖中$c_i(x_{i,.m})$意爲第$i$層的聚類簇中，與$x_{i,.m}$距離最近的聚類簇(歐氏距離)，而$x_{i,m}$意爲第$i$層，第$m$個可接受域的輸入數據。然後將通過函數$c(·)$處理的的可接受域重組輸出爲處理後的圖片輸出爲$Y_i$，$Y_i$雖然與$X_i$具有相同的特徵維度，但是因爲$X_i$的每一個可接受域做了分類處理，所以$Y_i$的實際特徵維度可能小於$X_i$。此外，聚類簇的集合可能會更新。沒當我們隊$x_{i,m}$進行分類時，若$x_{i,m}$分類至第$i$層，第$j$個聚類簇$w_{i,j}$，則聚類簇向量$w_{i,j}$需要進行更新，公式爲:
$w_{i,j}=\alpha x_{i,m}+(1-\alpha)w_{i,j} when c(x_{i,m})=j$
此外，由於持續學習的不確定性，難免乎有新的聚類簇也會動態的生成，它會分成兩個步驟判斷是都要生成新的聚類簇。更新第$j$的聚類簇對應的平均值和標準差。

對於輸入的可接受域$x_{i,m}$，如果其與離它最近的聚類簇$j$，存在以下關係，則可以判定$x_{i,m}$是一個新的類，以該可接受域初始化產生新的聚類簇，判別準則如下：

但是爲了區分極端值與真正的新的類簇，我們可以再做一個判定。若$y_{i+1,m}$是輸出$Y_{i+1}$的一部分，其對應的是第$i$層，第$m$個STAM的輸出，計算$c_i(y_{i+1,m})$，並根據上面的判別準則判定$y_{i+1,m}$是否屬於新的類簇，如果$y_{i+1,m}與x_{i,m}$都是新的類簇，則生成新的聚類簇。如果$x_{i,m}是新類簇而$y_{i+1,m}不是$，則不生產新的類簇。

當我們對輸入的數據$x$進行最終分類時，遵循以下步驟，這塊不難理解就不做解釋了：