介绍
Redis 在 2.8.9 版本添加了 HyperLogLog 结构,Redis HyperLogLog 是用来做基数统计的算法,HyperLogLog 的优点是,在输入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定 的、并且是很小的。在 Redis 里面,每个 HyperLogLog 键只需要花费 12 KB 内存,就可以计算接近 2^64 个不同元素的基数。这和计算基数时,元素越多耗费内存就越多的集合形成鲜明对比。但是,因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素本身,所以HyperLogLog不能像集合那样,返回输入的各个元素。
基数
比如数据集 {1, 3, 5, 7, 5, 7, 8}, 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为5。 基数估计就是在误差可接受的范围内,快速计算基数。
命令:
添加元素: pfadd key element ...
获取基数估算值: pfcount key ..
将多个HyperLogLog 合并为一个:pfmerge destkey sourcekey1 sourcekey2 ....
pfadd pfkey 1 2 3 4 (integer) 1
pfadd pfkey 45
(integer) 1
pfcount pfkey
(integer) 5
pfadd pf1key 34 45 76
(integer) 1
pfmerge destkey pfkey pf1key
OK
pfcount destkey
(integer) 7
应用场景
统计注册 IP 数 / 统计每日访问 IP 数 / 统计页面实时 UV 数 / 统计在线用户数等
注意:它也有局限性,就是只能统计基数数量,而没办法去知道具体的内容是什么。
它和bitmap相比,属于两种特定统计情况,简单来说,HyperLogLog 去重比 bitmap 方便很多。
统计访问 IP 数
用命令PFCOUNT 求得的ip数量,直接去重了,简单直接,非常棒。
PFADD ip_date1 "ip1" "ip2" "ip3"
PFCOUNT ip_date1
(integer) 3
PFADD ip_date2 "ip1"
(integer) 1
PFCOUNT ip_date1 ip_date2
(integer) 3