老衛帶你學---Redis源碼中hyperloglog結構的實現原理

HyperLogLog 是一種概率數據結構,它使用概率算法來統計集合的近似基數。

而它算法的最本源則是伯努利過程。伯努利過程就是一個拋硬幣實驗的過程。拋一枚正常硬幣,落地可能是正面,也可能是反面,二者的概率都是 1/2 。伯努利過程就是一直拋硬幣,直到落地時出現正面位置,並記錄下拋擲次數k。比如說,拋一次硬幣就出現正面了,此時 k 爲 1; 第一次拋硬幣是反面,則繼續拋,直到第三次纔出現正面,此時 k 爲 3。對於 n 次伯努利過程,我們會得到 n 個出現正面的投擲次數值 $ k1, k2 … kn $, 其中這裏的最大值是kmax。

根據一頓數學推導,我們可以得出一個結論: 2kmax2^{k_ max} 來作爲n的估計值。也就是說你可以根據最大投擲次數近似的推算出進行了幾次伯努利過程。

在這裏插入圖片描述
下面,我們就來講解一下 HyperLogLog 是如何模擬伯努利過程,並最終統計集合基數的。

HyperLogLog 在添加元素時,會通過Hash函數,將元素轉爲64位比特串,例如輸入5,便轉爲101(省略前面的0,下同)。這些比特串就類似於一次拋硬幣的伯努利過程。比特串中,0 代表了拋硬幣落地是反面,1 代表拋硬幣落地是正面,如果一個數據最終被轉化了 10010000,那麼從低位往高位看,我們可以認爲,這串比特串可以代表一次伯努利過程,首次出現 1 的位數爲5,就是拋了5次纔出現正面。

所以 HyperLogLog 的基本思想是利用集合中數字的比特串第一個 1 出現位置的最大值來預估整體基數,但是這種預估方法存在較大誤差,爲了改善誤差情況,HyperLogLog中引入分桶平均的概念,計算 m 個桶的調和平均值。

在這裏插入圖片描述

Redis 中 HyperLogLog 一共分了 2^14 個桶,也就是 16384 個桶。每個桶中是一個 6 bit 的數組,如下圖所示。

在這裏插入圖片描述
HyperLogLog 將上文所說的 64 位比特串的低 14 位單獨拿出,它的值就對應桶的序號,然後將剩下 50 位中第一次出現 1 的位置值設置到桶中。50位中出現1的位置值最大爲50,所以每個桶中的 6 位數組正好可以表示該值。

在設置前,要設置進桶的值是否大於桶中的舊值,如果大於才進行設置,否則不進行設置。示例如下圖所示。

在這裏插入圖片描述

此時爲了性能考慮,是不會去統計當前的基數的,而是將 HyperLogLog 頭的 card 屬性中的標誌位置爲 1,表示下次進行 pfcount 操作的時候,當前的緩存值已經失效了,需要重新統計緩存值。在後面 pfcount 流程的時候,發現這個標記爲失效,就會去重新統計新的基數,放入基數緩存。

在計算近似基數時,就分別計算每個桶中的值,帶入到上文將的 DV 公式中,進行調和平均和結果修正,就能得到估算的基數值。

HyperLogLog 對象中的 registers 數組就是桶,它有兩種存儲結構,分別爲密集存儲結構和稀疏存儲結構,兩種結構只涉及存儲和桶的表現形式,從中我們可以看到 Redis 對節省內存極致地追求。

在這裏插入圖片描述
我們先看相對簡單的密集存儲結構,它也是十分的簡單明瞭,既然要有 2^14 個 6 bit的桶,那麼我就真使用足夠多的 uint8_t 字節去表示,只是此時會涉及到字節位置和桶的轉換,因爲字節有 8 位,而桶只需要 6 位。

所以我們需要將桶的序號轉換成對應的字節偏移量 offsetbytes 和其內部的位數偏移量 offsetbits。需要注意的是小端字節序,高位在右側,需要進行倒轉。

當 offset_bits 小於等於2時,說明一個桶就在該字節內,只需要進行倒轉就能得到桶的值。

在這裏插入圖片描述

如果 offset_bits 大於 2 ,則說明一個桶分佈在兩個字節內,此時需要將兩個字節的內容都進行倒置,然後再進行拼接得到桶的值,如下圖所示。

在這裏插入圖片描述
HyperLogLog 的稀疏存儲結構是爲了節約內存消耗,它不像密集存儲模式一樣,真正找了那麼多個字節數組來表示2^14 個桶,而是使用特殊的字節結構來表達。

在這裏插入圖片描述

Redis 爲了方便表達稀疏存儲,它將上面三種字節表示形式分別賦予了一條指令。

  • ZERO : 一字節,表示連續多少個桶計數爲0,前兩位爲標誌00,後6位表示有多少個桶,最大爲64。
  • XZERO : 兩個字節,表示連續多少個桶計數爲0,前兩位爲標誌01,後14位表示有多少個桶,最大爲16384。
  • VAL : 一字節,表示連續多少個桶的計數爲多少,前一位爲標誌1,四位表示連桶內計數,所以最大表示桶的計數爲32。後兩位表示連續多少個桶。

在這裏插入圖片描述

所以,一個初始狀態的 HyperLogLog 對象只需要2 字節,也就是一個 XZERO 來存儲其數據,而不需要消耗12K 內存。當 HyperLogLog 插入了少數元素時,可以只使用少量的 XZERO、VAL 和 ZERO 進行表示,如下圖所示。

在這裏插入圖片描述

Redis從稀疏存儲轉換到密集存儲的條件是:

  • 任意一個計數值從 32 變成 33,因爲 VAL 指令已經無法容納,它能表示的計數值最大爲 32
  • 稀疏存儲佔用的總字節數超過 3000 字節,這個閾值可以通過 hllsparsemax_bytes 參數進行調整。
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章