Redis之底層數據結構

說明

說到Redis的數據結構，我們大概會很快想到Redis的5種常見數據結構：字符串(String)、列表(List)、散列(Hash)、集合(Set)、有序集合(Sorted Set)，以及他們的特點和應用場景。不過它們是Redis對外暴露的數據類型，用於API的操作，而組成它們的底層基礎數據結構又是什麼呢？

• 簡單動態字符串（SDS）
• 鏈表
• 字典
• 跳躍表
• 整數集合
• 壓縮列表

簡單動態字符串（SDS）

Redis是用C語言寫的，但是Redis並沒有使用C的字符串表示（C是字符串是以\0空字符結尾的字符數組），而是自己構建了一種簡單動態字符串（simple dynamic string，SDS）的抽象類型，並作爲Redis的默認字符串表示。在Redis中，包含字符串值的鍵值對底層都是用SDS實現的。

SDS的定義

SDS的結構定義在sds.h文件中，SDS的定義在Redis 3.2版本之後有一些改變，由一種數據結構變成了5種數據結構，會根據SDS存儲的內容長度來選擇不同的結構，以達到節省內存的效果，具體的結構定義，我們看以下代碼：

// 3.0
struct sdshdr {
    // 記錄buf數組中已使用字節的數量，即SDS所保存字符串的長度
    unsigned int len;
    // 記錄buf數據中未使用的字節數量
    unsigned int free;
    // 字節數組，用於保存字符串
    char buf[];
};

// 3.2
/* Note: sdshdr5 is never used, we just access the flags byte directly.
 * However is here to document the layout of type 5 SDS strings. */
struct __attribute__ ((__packed__)) sdshdr5 {
    unsigned char flags; /* 3 lsb of type, and 5 msb of string length */
    char buf[];
};
struct __attribute__ ((__packed__)) sdshdr8 {
    uint8_t len; /* used */
    uint8_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
struct __attribute__ ((__packed__)) sdshdr16 {
    uint16_t len; /* used */
    uint16_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
struct __attribute__ ((__packed__)) sdshdr32 {
    uint32_t len; /* used */
    uint32_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};
struct __attribute__ ((__packed__)) sdshdr64 {
    uint64_t len; /* used */
    uint64_t alloc; /* excluding the header and null terminator */
    unsigned char flags; /* 3 lsb of type, 5 unused bits */
    char buf[];
};

3.2版本之後，會根據字符串的長度來選擇對應的數據結構

static inline char sdsReqType(size_t string_size) {
    if (string_size < 1<<5)  // 32
        return SDS_TYPE_5;
    if (string_size < 1<<8)  // 256
        return SDS_TYPE_8;
    if (string_size < 1<<16)   // 65536 64k
        return SDS_TYPE_16;
    if (string_size < 1ll<<32)  // 4294967296 4G
        return SDS_TYPE_32;
    return SDS_TYPE_64;
}

下面以3.2版本的sdshdr8看一個示例

• len：記錄當前已使用的字節數（不包括'\0'），獲取SDS長度的複雜度爲O(1)
• alloc：記錄當前字節數組總共分配的字節數量（不包括'\0'）
• flags：標記當前字節數組的屬性，是sdshdr8還是sdshdr16等，flags值的定義可以看下面代碼
• buf：字節數組，用於保存字符串，包括結尾空白字符'\0'

// flags值定義
#define SDS_TYPE_5  0
#define SDS_TYPE_8  1
#define SDS_TYPE_16 2
#define SDS_TYPE_32 3
#define SDS_TYPE_64 4

上面的字節數組的空白處表示未使用空間，是Redis優化的空間策略，給字符串的操作留有餘地，保證安全提高效率

SDS與C字符串的區別

C語言使用長度爲N+1的字符數組來表示長度爲N的字符串，字符數組的最後一個元素爲空字符'\0'，但是這種簡單的字符串表示方法並不能滿足Redis對於字符串在安全性、效率以及功能方面的要求，那麼使用SDS，會有哪些好處呢？

參考於《Redis設計與實現》

常數複雜度獲取字符串長度

C字符串不記錄字符串長度，獲取長度必須遍歷整個字符串，複雜度爲O(N)；而SDS結構中本身就有記錄字符串長度的len屬性，所有複雜度爲O(1)。Redis將獲取字符串長度所需的複雜度從O(N)降到了O(1)，確保獲取字符串長度的工作不會成爲Redis的性能瓶頸。

杜絕緩衝區溢出，減少修改字符串時帶來的內存重分配次數

C字符串不記錄自身的長度，每次增長或縮短一個字符串，都要對底層的字符數組進行一次內存重分配操作。如果是拼接append操作之前沒有通過內存重分配來擴展底層數據的空間大小，就會產生緩存區溢出；如果是截斷trim操作之後沒有通過內存重分配來釋放不再使用的空間，就會產生內存泄漏。

而SDS通過未使用空間解除了字符串長度和底層數據長度的關聯，3.0版本是用free屬性記錄未使用空間，3.2版本則是alloc屬性記錄總的分配字節數量。通過未使用空間，SDS實現了空間預分配和惰性空間釋放兩種優化的空間分配策略，解決了字符串拼接和截取的空間問題。

二進制安全

C字符串中的字符必須符合某種編碼，除了字符串的末尾，字符串裏面是不能包含空字符的，否則會被認爲是字符串結尾，這些限制了C字符串只能保存文本數據，而不能保存像圖片這樣的二進制數據。

而SDS的API都會以處理二進制的方式來處理存放在buf數組裏的數據，不會對裏面的數據做任何的限制。SDS使用len屬性的值來判斷字符串是否結束，而不是空字符。

兼容部分C字符串函數

雖然SDS的API是二進制安全的，但還是像C字符串一樣以空字符結尾，目的是爲了讓保存文本數據的SDS可以重用一部分C字符串的函數

C字符串與SDS對比

C字符串	SDS
獲取字符串長度複雜度爲O(N)	獲取字符串長度複雜度爲O(1)
API是不安全的，可能會造成緩衝區溢出	API是安全的，不會造成緩衝區溢出
修改字符串長度必然會需要執行內存重分配	修改字符串長度N次最多會需要執行N次內存重分配
只能保存文本數據	可以保存文本或二進制數據
可以使用所有<string.h>庫中的函數	可以使用一部分<string.h>庫中的函數

鏈表

鏈表是一種比較常見的數據結構了，特點是易於插入和刪除、內存利用率高、且可以靈活調整鏈表長度，但隨機訪問困難。許多高級編程語言都內置了鏈表的實現，但是C語言並沒有實現鏈表，所以Redis實現了自己的鏈表數據結構

鏈表在Redis中應用的非常廣，列表（List）的底層實現就是鏈表。此外，Redis的發佈與訂閱、慢查詢、監視器等功能也用到了鏈表

鏈表節點和鏈表的定義

鏈表上的節點定義如下，adlist.h/listNode

typedef struct listNode {
    // 前置節點
    struct listNode *prev;
    // 後置節點
    struct listNode *next;
    // 節點值
    void *value;
} listNode;

鏈表的定義如下，adlist.h/list

typedef struct list {
    // 鏈表頭節點
    listNode *head;
    // 鏈表尾節點
    listNode *tail;
    // 節點值複製函數
    void *(*dup)(void *ptr);
    // 節點值釋放函數
    void (*free)(void *ptr);
    // 節點值對比函數
    int (*match)(void *ptr, void *key);
    // 鏈表所包含的節點數量
    unsigned long len;
} list;

每個節點listNode可以通過prev和next指針分佈指向前一個節點和後一個節點組成雙端鏈表，同時每個鏈表還會有一個list結構爲鏈表提供表頭指針head、表尾指針tail、以及鏈表長度計數器len，還有三個用於實現多態鏈表的類型特定函數

• dup：用於複製鏈表節點所保存的值
• free：用於釋放鏈表節點所保存的值
• match：用於對比鏈表節點所保存的值和另一個輸入值是否相等

鏈表結構圖

鏈表特性

• 雙端鏈表：帶有指向前置節點和後置節點的指針，獲取這兩個節點的複雜度爲O(1)
• 無環：表頭節點的prev和表尾節點的next都指向NULL，對鏈表的訪問以NULL結束
• 鏈表長度計數器：帶有len屬性，獲取鏈表長度的複雜度爲O(1)
• 多態：鏈表節點使用 void*指針保存節點值，可以保存不同類型的值

字典

字典，又稱爲符號表（symbol table）、關聯數組（associative array）或映射（map），是一種用於保存鍵值對（key-value pair）的抽象數據結構。字典中的每一個鍵都是唯一的，可以通過鍵查找與之關聯的值，並對其修改或刪除。Redis的鍵值對存儲就是用字典實現的，散列（Hash）的底層實現之一也是字典。我們直接來看一下字典是如何定義和實現的吧

字典的定義實現

Redis的字典底層是使用哈希表實現的，一個哈希表裏面可以有多個哈希表節點，每個哈希表節點中保存了字典中的一個鍵值對

哈希表結構定義，dict.h/dictht

typedef struct dictht {
    // 哈希表數組
    dictEntry **table;
    // 哈希表大小
    unsigned long size;
    // 哈希表大小掩碼，用於計算索引值，等於size-1
    unsigned long sizemask;
    // 哈希表已有節點的數量
    unsigned long used;
} dictht;

哈希表是由數組table組成，table中每個元素都是指向dict.h/dictEntry結構的指針，哈希表節點的定義如下

typedef struct dictEntry {
    // 鍵
    void *key;
    // 值
    union {
        void *val;
        uint64_t u64;
        int64_t s64;
        double d;
    } v;
    // 指向下一個哈希表節點，形成鏈表
    struct dictEntry *next;
} dictEntry;

其中key是我們的鍵；v是鍵值，可以是一個指針，也可以是整數或浮點數；next屬性是指向下一個哈希表節點的指針，可以讓多個哈希值相同的鍵值對形成鏈表，解決鍵衝突問題。最後就是我們的字典結構，dict.h/dict

typedef struct dict {
    // 和類型相關的處理函數
    dictType *type;
    // 私有數據
    void *privdata;
    // 哈希表
    dictht ht[2];
    // rehash 索引，當rehash不再進行時，值爲-1
    long rehashidx; /* rehashing not in progress if rehashidx == -1 */
    // 迭代器數量
    unsigned long iterators; /* number of iterators currently running */
} dict;

type屬性和privdata屬性是針對不同類型的鍵值對，用於創建多類型的字典，type是指向dictType結構的指針，privdata則保存需要傳給類型特定函數的可選參數，關於dictType結構和類型特定函數可以看下面代碼：

typedef struct dictType {
    // 計算哈希值的行數
    uint64_t (*hashFunction)(const void *key);
    // 複製鍵的函數
    void *(*keyDup)(void *privdata, const void *key);
    // 複製值的函數
    void *(*valDup)(void *privdata, const void *obj);
    // 對比鍵的函數
    int (*keyCompare)(void *privdata, const void *key1, const void *key2);
    // 銷燬鍵的函數
    void (*keyDestructor)(void *privdata, void *key);
    // 銷燬值的函數
    void (*valDestructor)(void *privdata, void *obj);
} dictType;

dict的ht屬性是兩個元素的數組，包含兩個dictht哈希表，一般字典只使用ht[0]哈希表，ht[1]哈希表會在對ht[0]哈希表進行rehash（重哈希）的時候使用，即當哈希表的鍵值對數量超過負載數量過多的時候，會將鍵值對遷移到ht[1]上

rehashidx也是跟rehash相關的，rehash的操作不是瞬間完成的，rehashidx記錄着rehash的進度，如果目前沒有在進行rehash，它的值爲-1

結合上面的幾個結構，我們來看一下字典的結構圖（沒有在進行rehash）

在這裏，哈希算法和rehash(重新散列)的操作不再詳細說明，有機會以後單獨介紹

當一個新的鍵值對要添加到字典中時，會根據鍵值對的鍵計算出哈希值和索引值，根據索引值放到對應的哈希表上，即如果索引值爲0，則放到ht[0]哈希表上。當有兩個或多個的鍵分配到了哈希表數組上的同一個索引時，就發生了鍵衝突的問題，哈希表使用鏈地址法來解決，即使用哈希表節點的next指針，將同一個索引上的多個節點連接起來。當哈希表的鍵值對太多或太少，就需要對哈希表進行擴展和收縮，通過rehash(重新散列)來執行

跳躍表

一個普通的單鏈表查詢一個元素的時間複雜度爲O(N)，即便該單鏈表是有序的。使用跳躍表（SkipList）是來解決查找問題的，它是一種有序的數據結構，不屬於平衡樹結構，也不屬於Hash結構，它通過在每個節點維持多個指向其他節點的指針，而達到快速訪問節點的目的

跳躍表是有序集合（Sorted Set）的底層實現之一，如果有序集合包含的元素比較多，或者元素的成員是比較長的字符串時，Redis會使用跳躍表做有序集合的底層實現

跳躍表的定義

跳躍表其實可以把它理解爲多層的鏈表，它有如下的性質

• 多層的結構組成，每層是一個有序的鏈表
• 最底層（level 1）的鏈表包含所有的元素
• 跳躍表的查找次數近似於層數，時間複雜度爲O(logn)，插入、刪除也爲 O(logn)
• 跳躍表是一種隨機化的數據結構(通過拋硬幣來決定層數)

那麼如何來理解跳躍表呢，我們從最底層的包含所有元素的鏈表開始，給定如下的鏈表

然後我們每隔一個元素，把它放到上一層的鏈表當中，這裏我把它叫做上浮（注意，科學的辦法是拋硬幣的方式，來決定元素是否上浮到上一層鏈表，我這裏先簡單每隔一個元素上浮到上一層鏈表，便於理解），操作完成之後的結構如下

查找元素的方法是這樣，從上層開始查找，大數向右找到頭，小數向左找到頭，例如我要查找17，查詢的順序是：13 -> 46 -> 22 -> 17；如果是查找35，則是 13 -> 46 -> 22 -> 46 -> 35；如果是54，則是 13 -> 46 -> 54

上面是查找元素，如果是添加元素，是通過拋硬幣的方式來決定該元素會出現到多少層，也就是說它會有 1/2的概率出現第二層、1/4 的概率出現在第三層......

跳躍表節點的刪除和添加都是不可預測的，很難保證跳錶的索引是始終均勻的，拋硬幣的方式可以讓大體上是趨於均勻的

假設我們已經有了上述例子的一個跳躍表了，現在往裏面添加一個元素18，通過拋硬幣的方式來決定它會出現的層數，是正面就繼續，反面就停止，假如我拋了2次硬幣，第一次爲正面，第二次爲反面

跳躍表的刪除很簡單，只要先找到要刪除的節點，然後順藤摸瓜刪除每一層相同的節點就好了

跳躍表維持結構平衡的成本是比較低的，完全是依靠隨機，相比二叉查找樹，在多次插入刪除後，需要Rebalance來重新調整結構平衡

跳躍表的實現

Redis的跳躍表實現是由redis.h/zskiplistNode和redis.h/zskiplist（3.2版本之後redis.h改爲了server.h）兩個結構定義，zskiplistNode定義跳躍表的節點，zskiplist保存跳躍表節點的相關信息

/* ZSETs use a specialized version of Skiplists */
typedef struct zskiplistNode {
    // 成員對象 （robj *obj;）
    sds ele;
    // 分值
    double score;
    // 後退指針
    struct zskiplistNode *backward;
    // 層
    struct zskiplistLevel {
        // 前進指針
        struct zskiplistNode *forward;
        // 跨度
        // 跨度實際上是用來計算元素排名(rank)的，在查找某個節點的過程中，將沿途訪過的所有層的跨度累積起來，得到的結果就是目標節點在跳躍表中的排位
        unsigned long span;
    } level[];
} zskiplistNode;

typedef struct zskiplist {
    // 表頭節點和表尾節點
    struct zskiplistNode *header, *tail;
    // 表中節點的數量
    unsigned long length;
    // 表中層數最大的節點的層數
    int level;
} zskiplist;

zskiplistNode結構

• level數組（層）：每次創建一個新的跳錶節點都會根據冪次定律計算出level數組的大小，也就是次層的高度，每一層帶有兩個屬性-前進指針和跨度，前進指針用於訪問表尾方向的其他指針；跨度用於記錄當前節點與前進指針所指節點的距離（指向的爲NULL，闊度爲0）
• backward（後退指針）：指向當前節點的前一個節點
• score（分值）：用來排序，如果分值相同看成員變量在字典序大小排序
• obj或ele：成員對象是一個指針，指向一個字符串對象，裏面保存着一個sds；在跳錶中各個節點的成員對象必須唯一，分值可以相同

zskiplist結構

• header、tail表頭節點和表尾節點
• length表中節點的數量
• level表中層數最大的節點的層數

假設我們現在展示一個跳躍表，有四個節點，節點的高度分別是2、1、4、3

zskiplist的頭結點不是一個有效的節點，它有ZSKIPLIST_MAXLEVEL層(32層)，每層的forward指向該層跳躍表的第一個節點，若沒有則爲NULL，在Redis中，上面的跳躍表結構如下

• 每個跳躍表節點的層數在1-32之間
• 一個跳躍表中，節點按照分值大小排序，多個節點的分值是可以相同的，相同時，節點按成員對象大小排序
• 每個節點的成員變量必須是唯一的

整數集合

整數集合（intset）是Redis用於保存整數值的集合抽象數據結構，可以保存類型爲int16_t、int32_t、int64_t的整數值，並且保證集合中不會出現重複元素

整數集合是集合（Set）的底層實現之一，如果一個集合只包含整數值元素，且元素數量不多時，會使用整數集合作爲底層實現

整數集合的定義實現

整數集合的定義爲inset.h/inset

typedef struct intset {
    // 編碼方式
    uint32_t encoding;
    // 集合包含的元素數量
    uint32_t length;
    // 保存元素的數組
    int8_t contents[];
} intset;

• contents數組：整數集合的每個元素在數組中按值的大小從小到大排序，且不包含重複項
• length記錄整數集合的元素數量，即contents數組長度
• encoding決定contents數組的真正類型，如INTSET_ENC_INT16、INTSET_ENC_INT32、INTSET_ENC_INT64

整數集合的升級

當想要添加一個新元素到整數集合中時，並且新元素的類型比整數集合現有的所有元素的類型都要長，整數集合需要先進行升級（upgrade），才能將新元素添加到整數集合裏面。每次想整數集合中添加新元素都有可能會引起升級，每次升級都需要對底層數組已有的所有元素進行類型轉換

升級添加新元素：

• 根據新元素類型，擴展整數集合底層數組的空間大小，併爲新元素分配空間
• 把數組現有的元素都轉換成新元素的類型，並將轉換後的元素放到正確的位置，且要保持數組的有序性
• 添加新元素到底層數組

整數集合的升級策略可以提升整數集合的靈活性，並儘可能的節約內存

另外，整數集合不支持降級，一旦升級，編碼就會一直保持升級後的狀態

壓縮列表

壓縮列表（ziplist）是爲了節約內存而設計的，是由一系列特殊編碼的連續內存塊組成的順序性（sequential）數據結構，一個壓縮列表可以包含多個節點，每個節點可以保存一個字節數組或者一個整數值

壓縮列表是列表（List）和散列（Hash）的底層實現之一，一個列表只包含少量列表項，並且每個列表項是小整數值或比較短的字符串，會使用壓縮列表作爲底層實現（在3.2版本之後是使用quicklist實現）

壓縮列表的構成

一個壓縮列表可以包含多個節點（entry），每個節點可以保存一個字節數組或者一個整數值

各部分組成說明如下

• zlbytes：記錄整個壓縮列表佔用的內存字節數，在壓縮列表內存重分配，或者計算zlend的位置時使用
• zltail：記錄壓縮列表表尾節點距離壓縮列表的起始地址有多少字節，通過該偏移量，可以不用遍歷整個壓縮列表就可以確定表尾節點的地址
• zllen：記錄壓縮列表包含的節點數量，但該屬性值小於UINT16_MAX（65535）時，該值就是壓縮列表的節點數量，否則需要遍歷整個壓縮列表才能計算出真實的節點數量
• entryX：壓縮列表的節點
• zlend：特殊值0xFF（十進制255），用於標記壓縮列表的末端

壓縮列表節點的構成

每個壓縮列表節點可以保存一個字節數字或者一個整數值，結構如下

• previous_entry_ength：記錄壓縮列表前一個字節的長度
• encoding：節點的encoding保存的是節點的content的內容類型
• content：content區域用於保存節點的內容，節點內容類型和長度由encoding決定

對象

上面介紹了Redis的主要底層數據結構，包括簡單動態字符串（SDS）、鏈表、字典、跳躍表、整數集合、壓縮列表。但是Redis並沒有直接使用這些數據結構來構建鍵值對數據庫，而是基於這些數據結構創建了一個對象系統，也就是我們所熟知的可API操作的Redis那些數據類型，如字符串(String)、列表(List)、散列(Hash)、集合(Set)、有序集合(Sorted Set)

根據對象的類型可以判斷一個對象是否可以執行給定的命令，也可針對不同的使用場景，對象設置有多種不同的數據結構實現，從而優化對象在不同場景下的使用效率

類型	編碼	BOJECT ENCODING 命令輸出	對象
REDIS_STRING	REDIS_ENCODING_INT	"int"	使用整數值實現的字符串對象
REDIS_STRING	REDIS_ENCODING_EMBSTR	"embstr"	使用embstr編碼的簡單動態字符串實現的字符串對象
REDIS_STRING	REDIS_ENCODING_RAW	"raw"	使用簡單動態字符串實現的字符串對象
REDIS_LIST	REDIS_ENCODING_ZIPLIST	"ziplist"	使用壓縮列表實現的列表對象
REDIS_LIST	REDIS_ENCODING_LINKEDLIST	'"linkedlist'	使用雙端鏈表實現的列表對象
REDIS_HASH	REDIS_ENCODING_ZIPLIST	"ziplist"	使用壓縮列表實現的哈希對象
REDIS_HASH	REDIS_ENCODING_HT	"hashtable"	使用字典實現的哈希對象
REDIS_SET	REDIS_ENCODING_INTSET	"intset"	使用整數集合實現的集合對象
REDIS_SET	REDIS_ENCODING_HT	"hashtable"	使用字典實現的集合對象
REDIS_ZSET	REDIS_ENCODING_ZIPLIST	"ziplist"	使用壓縮列表實現的有序集合對象
REDIS_ZSET	REDIS_ENCODING_SKIPLIST	"skiplist"	使用跳躍表表實現的有序集合對象