限流的目的是通過對併發訪問/請求進行限速或者一個時間窗口內的的請求進行限速來保護系統,一旦達到限制速率則可以拒絕服務(定向到錯誤頁或告知資源沒有了)、排隊或等待(比如秒殺、評論、下單)、降級(返回兜底數據或默認數據,如商品詳情頁庫存默認有貨)。
常見的限流算法有:令牌桶、漏桶。計數器也可以進行粗暴限流實現。
一、使用Redis實現
存儲兩個key,一個用於計時,一個用於計數。請求每調用一次,計數器增加1,若在計時器時間內計數器未超過閾值,則可以處理任務
BoundValueOperations<String, String> vOpsCounter = redisTemplate.boundValueOps("testCounter");
ValueOperations<String, String> vOpsTime = redisTemplate.opsForValue();
while (true) {
String t = vOpsTime.get("testTime");
if (StringUtils.isBlank(t)) {
vOpsTime.set("testTime", "0", 1, TimeUnit.SECONDS);
vOpsCounter.expire(2, TimeUnit.SECONDS);
}
if (StringUtils.isNotBlank(t) && vOpsCounter.increment(1L) > 1000) {
System.out.println(vOpsCounter.increment(0L) + "===超流");
break;
}else{
System.out.print("執行===");
}
}
System.out.println("結束");
二、令牌桶
令牌桶算法是一個存放固定容量令牌的桶,按照固定速率往桶裏添加令牌。令牌桶算法的描述如下:
-
假設限制2r/s,則按照500毫秒的固定速率往桶中添加令牌;
-
桶中最多存放b個令牌,當桶滿時,新添加的令牌被丟棄或拒絕;
-
當一個n個字節大小的數據包到達,將從桶中刪除n個令牌,接着數據包被髮送到網絡上;
-
如果桶中的令牌不足n個,則不會刪除令牌,且該數據包將被限流(要麼丟棄,要麼緩衝區等待)。
// 默認每秒產生N(10)個許可證
static RateLimiter rate = RateLimiter.create(10);
// 可以自己指定單位
// static RateLimiter rate = RateLimiter.create(1000, 1, TimeUnit.SECONDS);
public static void main(String[] args) {
// 阻塞直到獲取1個許可證
// rate.acquire();
for (int i = 0; i < 10; i++) {
new Thread(new Runnable() {
@Override
public void run() {
// 非阻塞獲取,在指定時間範圍內獲取許可
if (rate.tryAcquire(1, 500, TimeUnit.MILLISECONDS)) {
System.out.println("======>>執行");
} else {
System.out.println("======>>超流");
}
}
}).start();
}
}
---------------------------------------------------------------->>寫得不好地方,請留言