犧牲速度來節省內存，Redis是覺得自己太快了嗎
前言
本文GitHub已收錄：https://zhouwenxing.github.io/
正常情況下我們選擇使用 Redis 就是爲了提升查詢速度，然而讓人意外的是，Redis 當中卻有一種比較有意思的數據結構，這種數據結構通過犧牲部分讀寫速度來達到節省內存的目的，這就是 ziplist（壓縮列表），Redis 爲什麼要這麼做呢？難道真的是覺得自己的速度太快了，犧牲一點速度也不影響嗎？
什麼是壓縮列表
ziplist 是爲了節省內存而設計出來的一種數據結構。ziplist 是由一系列特殊編碼組成的連續內存塊的順序型數據結構，一個 ziplist 可以包含任意多個 entry，而每一個 entry 又可以保存一個字節數組或者一個整數值。
ziplist 作爲一種列表，其和普通的雙端列表，如 linkedlist 的最大區別就是 ziplist 並不存儲前後節點的指針，而 linkedlist 一般每個節點都會維護一個指向前置節點和一個指向後置節點的指針。那麼 ziplist 不維護前後節點的指針，它又是如何尋找前後節點的呢？
ziplist 雖然不維護前後節點的指針，但是它卻維護了上一個節點的長度和當前節點的長度，然後每次通過長度來計算出前後節點的位置。既然涉及到了計算，那麼相對於直接存儲指針的方式肯定有性能上的損耗，這就是一種典型的用時間來換取空間的做法。因爲每次讀取前後節點都需要經過計算才能得到前後節點的位置，所以會消耗更多的時間，而在 Redis 中，一個指針是佔了 8 個字節，但是大部分情況下，如果直接存儲長度是達不到 8 個字節的，所以採用存儲長度的設計方式在大部分場景下是可以節省內存空間的。
ziplist 的存儲結構
ziplist 的組成結構爲：
<zlbytes> <zltail> <zllen> <entry> <entry> ... <entry> <zlend>
其中 zlbytes，zltail，zllen 爲 ziplist 的 head 部分，entry 爲 ziplist 的 entries 部分，每一個 entry 代表一個數據，最後 zlend 表示 ziplist 的 end 部分，如下圖所示：
ziplist 中每個屬性代表的含義如下表格所示：
| 屬性 | 類型 | 長 度 | 說明 |
|---|---|---|---|
| zlbytes | uint32_t | 4字節 | 記錄壓縮列表佔用內存字節數（包括本身所佔用的 4 個字節）。 |
| zltail | uint32_t | 4字節 | 記錄壓縮列表尾節點距離壓縮列表的起始地址有多少個字節（通過這個值可以計算出尾節點的地址） |
| zllen | uint16_t | 2字節 | 記錄壓縮列表中包含的節點數量，當列表值超過可以存儲的最大值（65535）時，此值固定存儲 65535（即 2 的 16 次方 減 1），因此此時需要遍歷整個壓縮列表才能計算出真實節點數。 |
| entry | 節點 | - | 壓縮列表中的各個節點，長度由存儲的實際數據決定。 |
| zlend | uint8_t | 1字節 | 特殊字符 0xFF（即十進制 255），用來標記壓縮列表的末端（其他正常的節點沒有被標記爲255的，因爲255用來標識末尾，後面可以看到，正常節點都是標記爲254）。 |
entry 存儲結構
ziplist 的 head 和 end 存的都是長度和標記，而 entry 存儲的是具體元素，這又是經過特殊的設計的一種存儲格式，每個 entry 都以包含兩段信息的元數據作爲前綴，每一個 entry 的組成結構爲：
<prevlen> <encoding> <entry-data>
prevlen
prevlen 屬性存儲了前一個 entry 的長度，通過此屬性能夠從後到前遍歷列表。 prevlen 屬性的長度可能是 1 字節也可能是 5 字節：
- 當鏈表的前一個
entry佔用字節數小於254，此時prevlen只用1個字節進行表示。
<prevlen from 0 to 253> <encoding> <entry>
- 當鏈表的前一個
entry佔用字節數大於等於254，此時prevlen用5個字節來表示，其中第1個字節的值固定是254（相當於是一個標記，代表後面跟了一個更大的值），後面4個字節纔是真正存儲前一個entry的佔用字節數。
0xFE <4 bytes unsigned little endian prevlen> <encoding> <entry>
注意：1 個字節完全你能存儲 255 的大小，之所以只取到 254 是因爲 zlend 就是固定的 255，所以 255 這個數要用來判斷是否是 ziplist 的結尾。
encoding
encoding 屬性存儲了當前 entry 所保存數據的類型以及長度。encoding 長度爲 1 字節，2 字節或者 5 字節長。前面我們提到，每一個 entry 中可以保存字節數組和整數，而 encoding 屬性的第 1 個字節就是用來確定當前 entry 存儲的是整數還是字節數組。當存儲整數時，第 1 個字節的前兩位總是 11，而存儲字節數組時，則可能是 00、01 和 10 三種中的一種。
- 當存儲整數時，第
1個字節的前2位固定爲11，其他位則用來記錄整數值的類型或者整數值（下表所示的編碼中前兩位均爲11）：
| 編碼 | 長度 | entry保存的數據 |
|---|---|---|
| 11000000 | 1字節 | int16_t類型整數 |
| 11010000 | 1字節 | int32_t類型整數 |
| 11100000 | 1字節 | int64_t類型整數 |
| 11110000 | 1字節 | 24位有符號整數 |
| 11111110 | 1字節 | 8位有符號整數 |
| 1111xxxx | 1字節 | xxxx 代表區間 0001-1101，存儲了一個介於 0-12 之間的整數，此時 entry-data 屬性被省略 |
注意：xxxx 四位編碼範圍是 0000-1111，但是 0000，1111 和 1110 已經被表格中前面表示的數據類型佔用了，所以實際上的範圍是 0001-1101，此時能保存數據 1-13，再減去 1 之後範圍就是 0-12。至於爲什麼要減去 1 是從使用習慣來說 0 是一個非常常用的數據，所以纔會選擇統一減去 1 來存儲一個 0-12 的區間而不是直接存儲 1-13 的區間。
- 當存儲字節數組時，第
1個字節的前2位爲00、01或者10，其他位則用來記錄字節數組的長度：
| 編碼 | 長度 | entry保存的數據 |
|---|---|---|
| 00pppppp | 1字節 | 長度小於等於 63 字節（6 位）的字節數組 |
| 01pppppp qqqqqqqq | 2字節 | 長度小於等於 16383 字節（14 位）的字節數組 |
| 10000000 qqqqqqqq rrrrrrrr ssssssss tttttttt | 5字節 | 長度小於等於 2 的 32 次方減 1 （32 位）的字節數組，其中第 1 個字節的後 6 位設置爲 0，暫時沒有用到，後面的 32 位（4 個字節）存儲了數據 |
entry-data
entry-data 存儲的是具體數據。當存儲小整數（0-12）時，因爲 encoding 就是數據本身，此時 entry-data 部分會被省略，省略了 entry-data 部分之後的 ziplist 中的 entry 結構如下：
<prevlen> <encoding>
壓縮列表中 entry 的數據結構定義如下（源碼 ziplist.c 文件內），當然實際存儲並沒有直接使用到這個結構定義，這個結構只是用來接收數據，所以大家瞭解一下就可以了：
typedef struct zlentry {
unsigned int prevrawlensize;//存儲prevrawlen所佔用的字節數
unsigned int prevrawlen;//存儲上一個鏈表節點需要的字節數
unsigned int lensize;//存儲len所佔用的字節數
unsigned int len;//存儲鏈表當前節點的字節數
unsigned int headersize;//當前鏈表節點的頭部大小(prevrawlensize + lensize)即非數據域的大小
unsigned char encoding;//編碼方式
unsigned char *p;//指向當前節點的起始位置(因爲列表內的數據也是一個字符串對象)
} zlentry;
ziplist 數據示例
上面講解了大半天，可能大家都覺得枯燥無味了，也可能會覺得雲裏霧裏，這個沒有關係，這些只要心裏有個概念，用到的時候再查詢對應資料就可以了，並不需要全部記住，接下來讓我們一起通過兩個例子來體會一下 ziplist 到底是如何來組織存儲數據的。
下面就是一個壓縮列表的存儲示例，這個壓縮列表裏面存儲了 2 個節點，節點中存儲的是整數 2 和 5：
[0f 00 00 00] [0c 00 00 00] [02 00] [00 f3] [02 f6] [ff]
| | | | | |
zlbytes zltail zllen "2" "5" end
- 第一組
4個字節爲zlbytes部分，0f轉成二進制就是1111也就是15，代表整個ziplist長度是15個字節。 - 第二組
4個字節zltail部分，0c轉成二進制就是1100也就是12，這裏記錄的是壓縮列表尾節點距離起始地址有多少個字節，也就是就是說[02 f6]這個尾節點距離起始位置有12個字節。 - 第三組
2個字節就是記錄了當前ziplist中entry的數量，02轉成二進制就是10，也就是說當前ziplist有2個節點。 - 第四組
2個字節[00 f3]就是第一個entry，00表示0，因爲這是第1個節點，所以前一個節點長度爲0，f3轉成二進制就是11110011，剛好對應了表格中的編碼1111xxxx，所以後面四位就是存儲了一個0-12位的整數。0011轉成十進制就是3，減去1得到2，所以第一個entry存儲的數據就是2。 - 第五組
2個字節[02 f6]就是第二個entry，02即爲2，表示前一個節點的長度爲2，注意，因爲這裏算出來的結果是小於254，所以就代表了這裏只用到了1個字節來存儲上一個節點的長度（如果等於254，這說明接下來4個字節才存儲的是長度），所以後面的f6就是當前節點的數據，轉換成二進制爲11110110，對應了表格中的編碼1111xxxx，同樣的後四位0110存儲的是真實數據，計算之後得出是5。 - 最後一組1個字節[ff]轉成二進制就是
11111111，代表這是整個ziplist的結尾。
假如這時候又添加了一個 Hello World 字符串到列表中，那麼就會新增一個 entry，如下所示：
[02] [0b] [48 65 6c 6c 6f 20 57 6f 72 6c 64]
- 第一組的
1個字節02轉成十進制就是2，表示前一個節點（即上面示例中的[02 f6]）長度是2。 - 第 二組的
2個字節0b轉成二進制爲00001011，以00開頭，符合編碼00pppppp，而除掉最開始的兩位00，計算之後得到十進制11，這就說明後面字節數組的長度是11。 - 第三組剛好是
11個字節，對應了上面的長度，所以這裏就是真正存儲了Hello World的字節數組。
ziplist 連鎖更新問題
上面提到 entry 中的 prevlen 屬性可能是 1 個字節也可能是 5 個字節，那麼我們來設想這麼一種場景：假設一個 ziplist 中，連續多個 entry 的長度都是一個接近但是又不到 254 的值（介於 250~253 之間），那麼這時候 ziplist 中每個節點都只用了 1 個字節來存儲上一個節點的長度，假如這時候添加了一個新節點，如 entry1 ，其長度大於 254 個字節，此時 entry1 的下一個節點 entry2 的 prelen 屬性就必須要由 1 個字節變爲 5 個字節，也就是需要執行空間重分配，而此時 entry2 因爲增加了 4 個字節，導致長度又大於 254 個字節了，那麼它的下一個節點 entry3 的 prelen 屬性也會被改變爲 5 個字節。依此類推，這種產生連續多次空間重分配的現象就稱之爲連鎖更新。同樣的，不僅僅是新增節點，執行刪除節點操作同樣可能會發生連鎖更新現象。
雖然 ziplist 可能會出現這種連鎖更新的場景，但是一般如果只是發生在少數幾個節點之間，那麼並不會嚴重影響性能，而且這種場景發生的概率也比較低，所以實際使用時不用過於擔心。
總結
本文主要講解了 Redis 當中的 ziplist（壓縮列表），一種用時間換取空間的數據結構，在介紹壓縮列表存儲結構的同時通過一個存儲示例來分析了 ziplist 是如何存儲數據的，最後介紹了 ziplist 中可能發生的連鎖更新問題。