在如今的項目開發中,緩存是一種必不可少的存儲方式,目前在各種後臺開發中,比較常見的一種緩存算法就是LRU了,LRU名爲最近最少使用算法。它會將最近不常用的緩存數據淘汰掉,是一種Cache替換算法。
常見的緩存算法
- LRU (Least recently used) 最近最少使用,如果數據最近被訪問過,那麼將來被訪問的機率也更高。
- LFU (Least frequently used) 最不經常使用,如果一個數據在最近一段時間內使用次數很少,那麼在將來一段時間內被使用的可能性也很小。
- FIFO (Fist in first out) 先進先出, 如果一個數據最先進入緩存中,則應該最早淘汰掉。
像瀏覽器的緩存策略、memcached的緩存策略都是使用LRU這個算法,LRU算法會將近期最不會訪問的數據淘汰掉。LRU如此流行的原因是實現比較簡單,而且對於實際問題也很實用,良好的運行時性能,命中率較高。下面談談如何實現LRU緩存:
- 新數據插入到鏈表頭部
- 每當緩存命中(即緩存數據被訪問),則將數據移到鏈表頭部
- 當鏈表滿的時候,將鏈表尾部的數據丟棄
LRU Cache具備的操作:
- set(key,value):如果key在hashmap中存在,則先重置對應的value值,然後獲取對應的節點cur,將cur節點從鏈表刪除,並移動到鏈表的頭部;若果key在hashmap不存在,則新建一個節點,並將節點放到鏈表的頭部。當Cache存滿的時候,將鏈表最後一個節點刪除即可。
- get(key):如果key在hashmap中存在,則把對應的節點放到鏈表頭部,並返回對應的value值;如果不存在,則返回-1。
LRU實現採用雙向鏈表 + Map 來進行實現。這裏採用雙向鏈表的原因是:如果採用普通的單鏈表,則刪除節點的時候需要從表頭開始遍歷查找,效率爲O(n),採用雙向鏈表可以直接改變節點的前驅的指針指向進行刪除達到O(1)的效率。使用Map來保存節點的key、value值便於能在O(logN)的時間查找元素,對應get操作。
#include<iostream>
#include<map>
using namespace std;
/**
* Definition of cachelist node, it's double linked list node.
*/
struct CacheNode {
int key;
int value;
CacheNode *pre, *next;
CacheNode(int k, int v) : key(k), value(v), pre(NULL), next(NULL) {}
};
class LRUCache{
private:
int size; // Maximum of cachelist size.
CacheNode *head, *tail;
map<int, CacheNode *> mp; // Use hashmap to store
public:
LRUCache(int capacity)
{
size = capacity;
head = NULL;
tail = NULL;
}
int get(int key)
{
map<int, CacheNode *>::iterator it = mp.find(key);
if (it != mp.end())
{
CacheNode *node = it -> second;
remove(node);
setHead(node);
return node -> value;
}
else
{
return -1;
}
}
void set(int key, int value)
{
map<int, CacheNode *>::iterator it = mp.find(key);
if (it != mp.end())
{
CacheNode *node = it -> second;
node -> value = value;
remove(node);
setHead(node);
}
else
{
CacheNode *newNode = new CacheNode(key, value);
if (mp.size() >= size)
{
map<int, CacheNode *>::iterator iter = mp.find(tail -> key);
remove(tail);
mp.erase(iter);
}
setHead(newNode);
mp[key] = newNode;
}
}
void remove(CacheNode *node)
{
if (node -> pre != NULL)
{
node -> pre -> next = node -> next;
}
else
{
head = node -> next;
}
if (node -> next != NULL)
{
node -> next -> pre = node -> pre;
}
else
{
tail = node -> pre;
}
}
void setHead(CacheNode *node)
{
node -> next = head;
node -> pre = NULL;
if (head != NULL)
{
head -> pre = node;
}
head = node;
if (tail == NULL)
{
tail = head;
}
}
};