令牌算法和 漏桶算法思想精髓

限流的常见算法有以下三种:
时间窗口算法
所谓的滑动时间算法指的是以当前时间为截止时间,往前取一定的时间,比如往前取 60s 的时间,在这 60s 之内运行最大的访问数为 100,此时算法的执行逻辑为,先清除 60s 之前的所有请求记录,再计算当前集合内请求数量是否大于设定的最大请求数 100,如果大於则执行限流拒绝策略,否则插入本次请求记录并返回可以正常执行的标识给客户端。

滑动时间窗口如下图所示:

其中每一小个表示 10s,被红色虚线包围的时间段则为需要判断的时间间隔,比如 60s 秒允许 100 次请求,那么红色虚线部分则为 60s。

我们可以借助 Redis 的有序集合 ZSet 来实现时间窗口算法限流,实现的过程是先使用 ZSet 的 key 存储限流的 ID,score 用来存储请求的时间,每次有请求访问来了之后,先清空之前时间窗口的访问量,统计现在时间窗口的个数和最大允许访问量对比,如果大于等于最大访问量则返回 false 执行限流操作,负责允许执行业务逻辑,并且在 ZSet 中添加一条有效的访问记录,具体实现代码如下。

我们借助 Jedis 包来操作 Redis,实现在 pom.xml 添加 Jedis 框架的引用,配置如下:

redis.clients jedis 3.3.0 具体的 Java 实现代码如下:

import redis.clients.jedis.Jedis;

public class RedisLimit {
// Redis 操作客户端
static Jedis jedis = new Jedis(“127.0.0.1”, 6379);

public static void main(String[] args) throws InterruptedException {
    for (int i = 0; i < 15; i++) {
        boolean res = isPeriodLimiting("java", 3, 10);
        if (res) {
            System.out.println("正常执行请求:" + i);
        } else {
            System.out.println("被限流:" + i);
        }
    }
    // 休眠 4s
    Thread.sleep(4000);
    // 超过最大执行时间之后,再从发起请求
    boolean res = isPeriodLimiting("java", 3, 10);
    if (res) {
        System.out.println("休眠后,正常执行请求");
    } else {
        System.out.println("休眠后,被限流");
    }
}

/**
 * 限流方法(滑动时间算法)
 * @param key      限流标识
 * @param period   限流时间范围(单位:秒)
 * @param maxCount 最大运行访问次数
 * @return
 */
private static boolean isPeriodLimiting(String key, int period, int maxCount) {
    long nowTs = System.currentTimeMillis(); // 当前时间戳
    // 删除非时间段内的请求数据(清除老访问数据,比如 period=60 时,标识清除 60s 以前的请求记录)
    jedis.zremrangeByScore(key, 0, nowTs - period * 1000);
    long currCount = jedis.zcard(key); // 当前请求次数
    if (currCount >= maxCount) {
        // 超过最大请求次数,执行限流
        return false;
    }
    // 未达到最大请求数,正常执行业务
    jedis.zadd(key, nowTs, "" + nowTs); // 请求记录 +1
    return true;
}

}

接下来我们分别看来。

1.时间窗口算法
所谓的滑动时间算法指的是以当前时间为截止时间,往前取一定的时间,比如往前取 60s 的时间,在这 60s 之内运行最大的访问数为 100,此时算法的执行逻辑为,先清除 60s 之前的所有请求记录,再计算当前集合内请求数量是否大于设定的最大请求数 100,如果大於则执行限流拒绝策略,否则插入本次请求记录并返回可以正常执行的标识给客户端。

令牌算法思想是:

令牌以固定速率产生,并缓存到令牌桶中;
令牌桶放满时,多余的令牌被丢弃;
请求要消耗等比例的令牌才能被处理;
令牌不够时,请求被缓存。在这里插入图片描述

漏桶算法思想是:

水(请求)从上方倒入水桶,从水桶下方流出(被处理);
来不及流出的水存在水桶中(缓冲),以固定速率流出;
水桶满后水溢出(丢弃)。
这个算法的核心是:缓存请求、匀速处理、多余的请求直接丢弃。
相比漏桶算法,令牌桶算法不同之处在于它不但有一只“桶”,还有个队列,这个桶是用来存放令牌的,队列才是用来存放请求的

在这里插入图片描述
从作用上来说,漏桶和令牌桶算法最明显的区别就是是否允许突发流量(burst)的处理,漏桶算法能够强行限制数据的实时传输(处理)速率,对突发流量不做额外处理;而令牌桶算法能够在限制数据的平均传输速率的同时允许某种程度的突发传输。

两种算法基本上运用在网关服务器上,比如NGNIX,spring cloud zuul

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章