增量學習
- 定義:
增量學習(Incremental Learning)是指一個學習系統能不斷地從新樣本中學習新的知識,並能保存大部分以前已經學習到的知識。增量學習非常類似於人類自身的學習模式。
增量學習作爲機器學習的一種方法,現階段得到廣泛的關注。在其中,輸入數據不斷被用於擴展現有模型的知識,即進一步訓練模型,它代表了一種動態的學習的技術。對於滿足以下條件的學習方法可以定義爲增量學習方法:
- 可以學習新的信息中的有用信息
- 不需要訪問已經用於訓練分類器的原始數據
- 對已經學習的知識具有記憶功能
- 在面對新數據中包含的新類別時,可以有效地進行處理
爲什麼需要增量學習算法?
1)數據庫中的數據是動態變化的
2)數據量(訓練樣本)的變化引起重複學習
3)應避免在海量數據的情況下重複學習
4)˜只需修改因數據變化而涉及的規則
5)增量學習算法是數據挖掘算法走向實用化的關鍵問題之一
增量式算法的重要性體現在2個方面:
1)在實際的數據庫中,數據量往往是逐漸增 加的,因此,在面臨新的數據時,學習方法應能對訓練好的系統進行某些改動,以對新數據中蘊涵的知識進行學習。
2) 對一個訓練好的系統進行修改的時間代價通常低於重新訓練一個系統所需的代價。