目錄
1.什麼是布隆過濾器?
首先,我們需要了解布隆過濾器的概念。
布隆過濾器(Bloom Filter)是一個叫做 Bloom 的老哥於1970年提出的。我們可以把它看作由二進制向量(或者說位數組)和一系列隨機映射函數(哈希函數)兩部分組成的數據結構。相比於我們平時常用的的 List、Map 、Set 等數據結構,它佔用空間更少並且效率更高,但是缺點是其返回的結果是概率性的,而不是非常準確的。理論情況下添加到集合中的元素越多,誤報的可能性就越大。並且,存放在布隆過濾器的數據不容易刪除。
位數組中的每個元素都只佔用 1 bit ,並且每個元素只能是 0 或者 1。這樣申請一個 100w 個元素的位數組只佔用 1000000Bit / 8 = 125000 Byte = 125000/1024 kb ≈ 122kb 的空間。
總結:一個名叫 Bloom 的人提出了一種來檢索元素是否在給定大集合中的數據結構,這種數據結構是高效且性能很好的,但缺點是具有一定的錯誤識別率和刪除難度。並且,理論情況下,添加到集合中的元素越多,誤報的可能性就越大。
2.布隆過濾器的原理介紹
當一個元素加入布隆過濾器中的時候,會進行如下操作:
- 使用布隆過濾器中的哈希函數對元素值進行計算,得到哈希值(有幾個哈希函數得到幾個哈希值)。
- 根據得到的哈希值,在位數組中把對應下標的值置爲 1。
當我們需要判斷一個元素是否存在於布隆過濾器的時候,會進行如下操作:
- 對給定元素再次進行相同的哈希計算;
- 得到值之後判斷位數組中的每個元素是否都爲 1,如果值都爲 1,那麼說明這個值在布隆過濾器中,如果存在一個值不爲 1,說明該元素不在布隆過濾器中。
舉個簡單的例子:
如圖所示,當字符串存儲要加入到布隆過濾器中時,該字符串首先由多個哈希函數生成不同的哈希值,然後在對應的位數組的下表的元素設置爲 1(當位數組初始化時 ,所有位置均爲0)。當第二次存儲相同字符串時,因爲先前的對應位置已設置爲1,所以很容易知道此值已經存在(去重非常方便)。
如果我們需要判斷某個字符串是否在布隆過濾器中時,只需要對給定字符串再次進行相同的哈希計算,得到值之後判斷位數組中的每個元素是否都爲 1,如果值都爲 1,那麼說明這個值在布隆過濾器中,如果存在一個值不爲 1,說明該元素不在布隆過濾器中。
不同的字符串可能哈希出來的位置相同,這種情況我們可以適當增加位數組大小或者調整我們的哈希函數。
綜上,我們可以得出:布隆過濾器說某個元素存在,小概率會誤判。布隆過濾器說某個元素不在,那麼這個元素一定不在。
3.布隆過濾器使用場景
- 判斷給定數據是否存在:比如判斷一個數字是否在於包含大量數字的數字集中(數字集很大,5億以上!)、 防止緩存穿透(判斷請求的數據是否有效避免直接繞過緩存請求數據庫)等等、郵箱的垃圾郵件過濾、黑名單功能等等。
- 去重:比如爬給定網址的時候對已經爬取過的 URL 去重。
4.通過 Java 編程手動實現布隆過濾器
我們上面已經說了布隆過濾器的原理,知道了布隆過濾器的原理之後就可以自己手動實現一個了。
如果你想要手動實現一個的話,你需要:
- 一個合適大小的位數組保存數據
- 幾個不同的哈希函數
- 添加元素到位數組(布隆過濾器)的方法實現
- 判斷給定元素是否存在於位數組(布隆過濾器)的方法實現。
下面給出一個我覺得寫的還算不錯的代碼(參考網上已有代碼改進得到,對於所有類型對象皆適用)
import java.util.BitSet;
public class MyBloomFilter {
/**
* 位數組的大小
*/
private static final int DEFAULT_SIZE = 2 << 24;
/**
* 通過這個數組可以創建 6 個不同的哈希函數
*/
private static final int[] SEEDS = new int[]{3, 13, 46, 71, 91, 134};
/**
* 位數組。數組中的元素只能是 0 或者 1
*/
private BitSet bits = new BitSet(DEFAULT_SIZE);
/**
* 存放包含 hash 函數的類的數組
*/
private SimpleHash[] func = new SimpleHash[SEEDS.length];
/**
* 初始化多個包含 hash 函數的類的數組,每個類中的 hash 函數都不一樣
*/
public MyBloomFilter() {
// 初始化多個不同的 Hash 函數
for (int i = 0; i < SEEDS.length; i++) {
func[i] = new SimpleHash(DEFAULT_SIZE, SEEDS[i]);
}
}
/**
* 添加元素到位數組
*/
public void add(Object value) {
for (SimpleHash f : func) {
bits.set(f.hash(value), true);
}
}
/**
* 判斷指定元素是否存在於位數組
*/
public boolean contains(Object value) {
boolean ret = true;
for (SimpleHash f : func) {
ret = ret && bits.get(f.hash(value));
}
return ret;
}
/**
* 靜態內部類。用於 hash 操作!
*/
public static class SimpleHash {
private int cap;
private int seed;
public SimpleHash(int cap, int seed) {
this.cap = cap;
this.seed = seed;
}
/**
* 計算 hash 值
*/
public int hash(Object value) {
int h;
return (value == null) ? 0 : Math.abs(seed * (cap - 1) & ((h = value.hashCode()) ^ (h >>> 16)));
}
}
}
測試:
String value1 = "https://javaguide.cn/";
String value2 = "https://github.com/Snailclimb";
MyBloomFilter filter = new MyBloomFilter();
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
filter.add(value1);
filter.add(value2);
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
Output:
false
false
true
true
測試:
Integer value1 = 13423;
Integer value2 = 22131;
MyBloomFilter filter = new MyBloomFilter();
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
filter.add(value1);
filter.add(value2);
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
Output:
false
false
true
true
5.利用Google開源的 Guava中自帶的布隆過濾器
自己實現的目的主要是爲了讓自己搞懂布隆過濾器的原理,Guava 中布隆過濾器的實現算是比較權威的,所以實際項目中我們不需要手動實現一個布隆過濾器。
首先我們需要在項目中引入 Guava 的依賴:
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>28.0-jre</version>
</dependency>
實際使用如下:
我們創建了一個最多存放 最多 1500個整數的布隆過濾器,並且我們可以容忍誤判的概率爲百分之(0.01)
// 創建布隆過濾器對象
BloomFilter<Integer> filter = BloomFilter.create(
Funnels.integerFunnel(),
1500,
0.01);
// 判斷指定元素是否存在
System.out.println(filter.mightContain(1));
System.out.println(filter.mightContain(2));
// 將元素添加進布隆過濾器
filter.put(1);
filter.put(2);
System.out.println(filter.mightContain(1));
System.out.println(filter.mightContain(2));
在我們的示例中,當mightContain()
方法返回true時,我們可以99%確定該元素在過濾器中,當過濾器返回false時,我們可以100%確定該元素不存在於過濾器中。
Guava 提供的布隆過濾器的實現還是很不錯的(想要詳細瞭解的可以看一下它的源碼實現),但是它有一個重大的缺陷就是隻能單機使用(另外,容量擴展也不容易),而現在互聯網一般都是分佈式的場景。爲了解決這個問題,我們就需要用到 Redis 中的布隆過濾器了。