原创 iCaRL:Incremental Classifier and Representation Learning論文閱讀

此算法構造分類器的過程就是構造一個樣本集。根據樣本集進行分類。 一、分類原理: (一)如何分類呢? ①要分類的圖片爲x ②得到圖片x的特徵向量 ③得到樣本集中每個樣本的特徵向量。對每個類的特徵向量加和取平均得到每個類別的樣本平均。 ④圖片

原创 word2vec中的負採樣(以CBOW模型爲例)

CBOW模型圖      輸入詞w(t)的上下文單詞的詞向量(隨機生成),輸入層單詞加和得到了一個跟輸入詞相同維數的向量。對此向量進行相應操作,使得輸出爲w(t)的概率最大。     當然輸出層可以用softmax,目標:w(t)的s