布隆过滤器(Bloom Filter)Java实现

布隆过滤器原理很简单:就是把一个字符串哈希成一个整数key,然后选取一个很长的比特序列,开始都是0,在key把此位置的0变为1;下次进来一个字符串,哈希之后的值key,如果在此比特位上的值也是1,那么就说明这个字符串存在了。

如果按照上面的做法,那就和哈希算法没有什么区别了,哈希算法还有重复的呢。

布隆过滤器是将一个字符串哈希成多个key,我还是按照书上的说吧。

先建立一个16亿二进制常量,然后将这16亿个二进制位全部置0。对于每个字符串,用8个不同的随机产生器(F1,F2,.....,F8)产生8个信息指纹(f1,f2,....,f8).再用一个随机数产生器G把这八个信息指纹映射到1到16亿中的8个自然数g1,g2,...,g8。现在把这8个位置的二进制位全部变为1。这样一个布隆过滤器就建好了。

那么如何检测一个字符串是否已经存在了呢?

现在用8个随机数产生器(F1,F2,...,F8)对这个字符串产生8个信息指纹s1,s2,...,s8,然后将这8个信息指纹对应到布隆过滤器的8个二进制位,分别是T1,T2,...,T8.如果字符串存在,那么显然T1,T2,...,T8对应的二进制位都应该是1。就是这样来判断字符串是否已经存在的。

其实布隆过滤器就是对哈希算法的一个扩展,既然本质是哈希,那么就肯定会有不足,也就是说,肯定会有误判,一个字符串明明没有出现过而布隆过滤器判断出现了,虽然可能性很小,但是确实存在。

那么如何减少这种概率呢,首先可以想到的是如果将8个信息指纹扩展到16个错误的概率肯定会降低,但是也要考虑到,这样的话,那么一个布隆过滤器所能存储的字符串数量也降低了1倍;另外就是选取很好的哈希函数,对字符串的哈希方法有很多种,其中不乏很好的哈希函数。

布隆过滤器主要运用在过滤恶意网址用的,将所有的恶意网址建立在一个布隆过滤器上,然后对用户的访问的网址进行检测,如果在恶意网址中那么就通知用户。这样的话,我们还可以对一些常出现判断错误的网址设定一个白名单,然后对出现判断存在的网址再和白名单中的网址进行匹配,如果在白名单中,那么就放行。当然这个白名单不能太大,也不会太大,布隆过滤器错误的概率是很小的。有兴趣的读者可以去查阅,布隆过滤器的错误率。

下面给出Java版的布隆过滤器源码:


[java] view plain copy print?

  1. import java.util.BitSet;  

  2.   

  3. /** 

  4.  * 

  5.  * @author xkey 

  6.  */  

  7. public class BloomFilter {  

  8.   

  9.     private static final int DEFAULT_SIZE = 2 << 24;//布隆过滤器的比特长度  

  10.     private static final int[] seeds = {3,5,71113313761};//这里要选取质数,能很好的降低错误率  

  11.     private static BitSet bits = new BitSet(DEFAULT_SIZE);  

  12.     private static SimpleHash[] func = new SimpleHash[seeds.length];  

  13.   

  14.     public static void addValue(String value)  

  15.     {  

  16.         for(SimpleHash f : func)//将字符串value哈希为8个或多个整数,然后在这些整数的bit上变为1  

  17.             bits.set(f.hash(value),true);  

  18.     }  

  19.       

  20.     public static void add(String value)  

  21.     {  

  22.         if(value != null) addValue(value);  

  23.     }  

  24.       

  25.     public static boolean contains(String value)  

  26.     {  

  27.         if(value == nullreturn false;  

  28.         boolean ret = true;  

  29.         for(SimpleHash f : func)//这里其实没必要全部跑完,只要一次ret==false那么就不包含这个字符串  

  30.             ret = ret && bits.get(f.hash(value));  

  31.         return ret;  

  32.     }  

  33.       

  34.     public static void main(String[] args) {  

  35.         String value = "[email protected]";  

  36.         for (int i = 0; i < seeds.length; i++) {  

  37.             func[i] = new SimpleHash(DEFAULT_SIZE, seeds[i]);  

  38.         }  

  39.         add(value);  

  40.         System.out.println(contains(value));  

  41.     }  

  42. }  

  43.   

  44. class SimpleHash {//这玩意相当于C++中的结构体  

  45.   

  46.     private int cap;  

  47.     private int seed;  

  48.   

  49.     public  SimpleHash(int cap, int seed) {  

  50.         this.cap = cap;  

  51.         this.seed = seed;  

  52.     }  

  53.   

  54.     public int hash(String value) {//字符串哈希,选取好的哈希函数很重要  

  55.         int result = 0;  

  56.         int len = value.length();  

  57.         for (int i = 0; i < len; i++) {  

  58.             result = seed * result + value.charAt(i);  

  59.         }  

  60.         return (cap - 1) & result;  

  61.     }  

  62. }  



总结:布隆过滤器是对哈希算法的一种创新,而且需要消耗的空间也很小,错误率很低。总之这种创新的思路很值得学习,是一种对bit这种数据类型的运用。


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章