限流的實現算法有很多，但常見的限流算法有三種：計數器算法、漏桶算法和令牌桶算法。
1.計數器算法
計數器算法是在一定的時間間隔裏，記錄請求次數，當請求次數超過該時間限制時，就把計數器清零，然後重新計算。當請求次數超過間隔內的最大次數時，拒絕訪問。
計數器算法的實現比較簡單，但存在“突刺現象”。
突刺現象是指，比如限流 QPS（每秒查詢率）爲 100，算法的實現思路就是從第一個請求進來開始計時，在接下來的 1 秒內，每來一個請求，就把計數加 1，如果累加的數字達到了 100，後續的請求就會被全部拒絕。等到 1 秒結束後，把計數恢復成 0，重新開始計數。如果在單位時間 1 秒內的前 10 毫秒處理了 100 個請求，那麼後面的 990 毫秒會請求拒絕所有的請求，我們把這種現象稱爲“突刺現象”。
計數器算法的簡單實現代碼如下：
import java.util.Calendar;
import java.util.Date;
import java.util.Random;
public class CounterLimit {
// 記錄上次統計時間
static Date lastDate = new Date();
// 初始化值
static int counter = 0;
// 限流方法
static boolean countLimit() {
// 獲取當前時間
Date now = new Date();
Calendar calendar = Calendar.getInstance();
calendar.setTime(now);
// 當前分
int minute = calendar.get(Calendar.MINUTE);
calendar.setTime(lastDate);
int lastMinute = calendar.get(Calendar.MINUTE);
if (minute != lastMinute) {
lastDate = now;
counter = 0;
}
++counter;
return counter >= 100; // 判斷計數器是否大於每分鐘限定的值。
}
// 測試方法
public static void main(String[] args) {
for (; ; ) {
// 模擬一秒
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
Random random = new Random();
int i = random.nextInt(3);
// 模擬1秒內請求1次
if (i == 1) {
if (countLimit()) {
System.out.println("限流了" + counter);
} else {
System.out.println("沒限流" + counter);
}
} else if (i == 2) { // 模擬1秒內請求2次
for (int j = 0; j < 2; j++) {
if (countLimit()) {
System.out.println("限流了" + counter);
} else {
System.out.println("沒限流" + counter);
}
}
} else { // 模擬1秒內請求10次
for (int j = 0; j < 10; j++) {
if (countLimit()) {
System.out.println("限流了" + counter);
} else {
System.out.println("沒限流" + counter);
}
}
}
}
}
}
2.漏桶算法
漏桶算法的實現思路是，有一個固定容量的漏桶，水流（請求）可以按照任意速率先進入到漏桶裏，但漏桶總是以固定的速率勻速流出，當流入量過大的時候（超過桶的容量），則多餘水流（請求）直接溢出。如下圖所示：
漏桶算法提供了一種機制，通過它可以讓突發流量被整形，以便爲系統提供穩定的請求，比如 Sentinel 中流量整形（勻速排隊功能）就是此算法實現的，如下圖所示：
更多 Sentinel 內容詳見：https://mp.weixin.qq.com/s/nF5f18BP8hscqIEmIFRN8Q
3.令牌桶算法
令牌按固定的速率被放入令牌桶中，桶中最多存放 N 個令牌（Token），當桶裝滿時，新添加的令牌被丟棄或拒絕。當請求到達時，將從桶中刪除 1 個令牌。令牌桶中的令牌不僅可以被移除，還可以往裏添加，所以爲了保證接口隨時有數據通過，必須不停地往桶裏加令牌。由此可見，往桶裏加令牌的速度就決定了數據通過接口的速度。我們通過控制往令牌桶裏加令牌的速度從而控制接口的流量。
令牌桶的實現原理如下圖所示：
4.漏桶算法 VS 令牌桶算法
漏桶算法是按照常量固定速率流出請求的，流入請求速率任意，當流入的請求數累積到漏桶容量時，新流入的請求被拒絕。令牌桶算法是按照固定速率往桶中添加令牌的，請求是否被處理需要看桶中的令牌是否足夠，當令牌數減爲零時，拒絕新的請求。令牌桶算法允許突發請求，只要有令牌就可以處理，允許一定程度的突發流量。漏桶算法限制的是常量流出速率，從而使突發流入速率平滑。
比如服務器空閒時，理論上使用漏桶算法服務器可以直接處理一次洪峯（一次洪水過程的最大流量），但是漏桶算法處理請求的速率是恆定的，因此，前期服務器資源只能根據恆定的漏水速度逐步處理請求，無法直接處理這次洪峯。而使用令牌桶算法就不存在這個問題，因爲它可以先把令牌桶一次性裝滿，處理一次洪峯之後再走限流。
總結
限流的常見算法有以下 3 種：
- 計數器算法：實現簡單，但有突刺現象；
- 漏桶算法：固定速率處理請求，處理任意流量更加平滑，可以實現流量整形；
- 令牌桶算法：通過控制桶中的令牌實現限流，可以處理一定的突發流量，比如處理一次洪峯。
參考 & 鳴謝
《分佈式微服務架構》
https://blog.csdn.net/chengqiuming/article/details/122385943
本文已收錄到 Gitee 開源倉庫《Java 面試突擊》，其中包含的內容有：Redis、JVM、併發、併發、MySQL、Spring、Spring MVC、Spring Boot、Spring Cloud、MyBatis、設計模式、消息隊列等模塊。Java 面試有它就夠了：最全 Java 面試題庫(2023版)，持續更新...