上篇文章介紹了最常用的LRU算法及實現，本篇總結常用緩存淘汰算法，歸總對比。
一、LFU
(Least Frequently Used)：最近最低使用頻次被淘汰
實現：通過count記錄緩存數據的使用次數，數據塊按照引用計數排序，計數相同則按照時間排序。
1. 新加入數據插入到隊列尾部（因爲引用計數爲1）；
2. 隊列中的數據被訪問後，引用計數增加，隊列重新排序；
3. 當需要淘汰數據時，將已經排序的列表最後的數據塊刪除。
public int removeCache() {
Iterator<CacheObject<K, V>> iterator = cacheMap.values().iterator();
int count = 0 ;
long minAccessCount = Long.MAX_VALUE ;
while(iterator.hasNext()){
CacheObject<K, V> cacheObject = iterator.next();
if(cacheObject.isExpired() ){
iterator.remove();
count++ ;
continue ;
}else{
minAccessCount = Math.min(cacheObject.accessCount , minAccessCount) ;
}
}
if(count > 0 ) return count ;
if(minAccessCount != Long.MAX_VALUE ){
iterator = cacheMap.values().iterator();
while(iterator.hasNext()){
CacheObject<K, V> cacheObject = iterator.next();
cacheObject.accessCount -= minAccessCount ;
if(cacheObject.accessCount <= 0 ){
iterator.remove();
count++ ;
}
}
}
return count;
}
缺點：
1、需要維護一個隊列記錄所有數據的訪問記錄，每個數據都需要維護引用計數。
2、需要記錄所有數據的訪問記錄，內存消耗較高
2、需要基於引用計數重排序，性能消耗較高。
優點：
1、按照頻率排序，LFU命中效率要優於LRU。
2、能避免因非熱點數據介入導致的緩存命中率下降的問題。（先經過一次頻率計算了）
LFU算法變種詳情訪問：LFU
二、LRU-K
相比LRU，LRU-K需要多維護一個隊列，用於記錄所有緩存數據被訪問的歷史。只有當數據的訪問次數達到K次的時候，纔將數據放入緩存。當需要淘汰數據時，LRU-K會淘汰第K次訪問時間距當前時間最大的數據。
實現：優先級隊列，算法複雜度和代價比較高
1. 數據第一次被訪問，加入到訪問歷史列表；
2. 如果數據在訪問歷史列表裏後沒有達到K次訪問，則按照一定規則（FIFO，LRU）淘汰；
3. 當訪問歷史隊列中的數據訪問次數達到K次後，將數據索引從歷史隊列刪除，將數據移到緩存隊列中，並緩存此數據，緩存隊列重新按照時間排序；
4. 緩存數據隊列中被再次訪問後，重新排序；
5. 需要淘汰數據時，淘汰緩存隊列中排在末尾的數據，即：淘汰“倒數第K次訪問離現在最久”的數據。
優點：LRU-K具有LRU的優點（熱點高頻數據命中率高，命中率比LRU要高），同時能降低“緩存污染”問題
缺點：
1、適應性差，需要大量的數據訪問才能將歷史訪問記錄清除掉。
2、歷史記錄提高內存消耗：由於LRU-K還需要記錄那些被訪問過、但還沒有放入緩存的對象，因此內存消耗會比LRU要多；當數據量很大的時候，內存消耗會比較可觀。
3、時間排序拉高CPU消耗：LRU-K需要基於時間進行排序（可以需要淘汰時再排序，也可以即時排序），CPU消耗比LRU要高。
實際應用中LRU-2是綜合各種因素後最優的選擇，LRU-3或者更大的K值命中率會高
三、FIFO
基本隊列，不多說
四、Two queues
Two queues算法類似於LRU-2，不同點在於2Q將LRU-2中的訪問歷史隊列（注意這不是緩存數據的）改爲一個FIFO緩存隊列，即2Q算法=一個是FIFO隊列，一個是LRU隊列。命中率高於LRU
實現：當數據第一次訪問時，2Q算法將數據緩存在FIFO隊列裏面，當數據第二次被訪問時，則將數據從FIFO隊列移到LRU隊列裏，兩個隊列各自按照自己的方法淘汰數據。
1. 新訪問的數據插入到FIFO隊列；
2. 如果數據在FIFO隊列中一直沒有被再次訪問，則最終按照FIFO規則淘汰；
3. 如果數據在FIFO隊列中被再次訪問，則將數據移到LRU隊列頭部；
4. 如果數據在LRU隊列再次被訪問，則將數據移到LRU隊列頭部；
5. LRU隊列淘汰末尾的數據。
五、Multi Queue
優先緩存訪問次數多的數據，根據訪問頻率將數據劃分爲多個隊列，不同的隊列具有不同的訪問優先級
實現：
1. 新插入的數據放入Q0；
2. 每個隊列按照LRU管理數據；
3. 當數據的訪問次數達到一定次數，需要提升優先級時，將數據從當前隊列刪除，加入到高一級隊列的頭部；
4. 爲了防止高優先級數據永遠不被淘汰，當數據在指定的時間裏訪問沒有被訪問時，需要降低優先級，將數據從當前隊列刪除，加入到低一級的隊列頭部；
5. 需要淘汰數據時，從最低一級隊列開始按照LRU淘汰；每個隊列淘汰數據時，將數據從緩存中刪除，將數據索引加入Q-history頭部；
6. 如果數據在Q-history中被重新訪問，則重新計算其優先級，移到目標隊列的頭部；
7. Q-history按照LRU淘汰數據的索引。
|
對比點 |
對比 |
|
命中率 |
LRU-2 > MQ(2) > 2Q > LRU |
|
複雜度 |
LRU-2 > MQ(2) > 2Q > LRU |
|
代價 |
LRU-2 > MQ(2) > 2Q > LRU |
實際應用中需要根據業務的需求和對數據的訪問情況進行選擇，並不是命中率越高越好。例如：雖然LRU看起來命中率會低一些，且存在”緩存污染“的問題，但由於其簡單和代價小，實際應用中反而應用更多。
總結自：LRU算法 緩存淘汰策略