LRU和LFU算法

簡介

LruCache是一種緩存策略，持有的是強引用，但是會控制在一個峯值下。它內部維護了一個隊列，每當從中取出一個值時，該值就移動到隊列的頭部。當緩存已滿而繼續添加時，會將隊列尾部的值移除，方便GC。LruCache用於內存緩存，在避免程序發生OOM和提高執行效率有着良好表現。

LRU算法

和名字一樣，LruCache的實現正是基於LRU(Least Recently Used)算法。最近最少使用，我理解的就是最久遠的最少使用先被淘汰。下圖展示了LRU算法的核心思想，是最常用也是比較簡單的一種:

假設一個隊列的最大容量是5，那麼新進的元素會被添加到頭部，當隊列已滿時繼續添加會移除尾部的元素。值得注意的是，如果有一個不在隊頭的元素C又一次插入到隊列，因爲隊列中已經存在C，則不會重複插入，而是將C元素移動到頭部，相當於它的存在優先級當前是最高的。

LRU實現

1.繼承LinkHashMap實現，主要是通過重寫removeEldestEntry方法實現。

public class LruCache extends LinkedHashMap<Integer, Integer> {

    private int capacity;

    public LruCache(int capacity) {
        super(capacity, 0.75F, true);
        this.capacity = capacity;
    }

    public int get(int key) {
        return super.getOrDefault(key, -1);
    }

    public void put(int key, int value) {
        super.put(key, value);
    }

    @Override
    protected boolean removeEldestEntry(Map.Entry<Integer, Integer> eldest) {
        return super.size() > capacity;
    }
}

2.使用HashMap實現

public class LRUCache {
    class DLinkedNode {
        int key;
        int value;
        DLinkedNode prev;
        DLinkedNode next;
        public DLinkedNode() {}
        public DLinkedNode(int _key, int _value) {key = _key; value = _value;}
    }

    private Map<Integer, DLinkedNode> cache = new HashMap<Integer, DLinkedNode>();
    private int size;
    private int capacity;
    private DLinkedNode head, tail;

    public LRUCache(int capacity) {
        this.size = 0;
        this.capacity = capacity;
        // 使用僞頭部和僞尾部節點
        head = new DLinkedNode();
        tail = new DLinkedNode();
        head.next = tail;
        tail.prev = head;
    }

    public int get(int key) {
        DLinkedNode node = cache.get(key);
        if (node == null) {
            return -1;
        }
        // 如果 key 存在，先通過哈希表定位，再移到頭部
        moveToHead(node);
        return node.value;
    }

    public void put(int key, int value) {
        DLinkedNode node = cache.get(key);
        if (node == null) {
            // 如果 key 不存在，創建一個新的節點
            DLinkedNode newNode = new DLinkedNode(key, value);
            // 添加進哈希表
            cache.put(key, newNode);
            // 添加至雙向鏈表的頭部
            addToHead(newNode);
            ++size;
            if (size > capacity) {
                // 如果超出容量，刪除雙向鏈表的尾部節點
                DLinkedNode tail = removeTail();
                // 刪除哈希表中對應的項
                cache.remove(tail.key);
                --size;
            }
        }
        else {
            // 如果 key 存在，先通過哈希表定位，再修改 value，並移到頭部
            node.value = value;
            moveToHead(node);
        }
    }

    private void addToHead(DLinkedNode node) {
        node.prev = head;
        node.next = head.next;
        head.next.prev = node;
        head.next = node;
    }

    private void removeNode(DLinkedNode node) {
        node.prev.next = node.next;
        node.next.prev = node.prev;
    }

    private void moveToHead(DLinkedNode node) {
        removeNode(node);
        addToHead(node);
    }

    private DLinkedNode removeTail() {
        DLinkedNode res = tail.prev;
        removeNode(res);
        return res;
    }
}