高併發限流

    限流的目的是通過對併發訪問/請求進行限速或者一個時間窗口內的的請求進行限速來保護系統,一旦達到限制速率則可以拒絕服務(定向到錯誤頁或告知資源沒有了)、排隊或等待(比如秒殺、評論、下單)、降級(返回兜底數據或默認數據,如商品詳情頁庫存默認有貨)。

 

常見的限流算法有:令牌桶、漏桶。計數器也可以進行粗暴限流實現。

 

一、使用Redis實現

    存儲兩個key,一個用於計時,一個用於計數。請求每調用一次,計數器增加1,若在計時器時間內計數器未超過閾值,則可以處理任務


		BoundValueOperations<String, String> vOpsCounter = redisTemplate.boundValueOps("testCounter");
		ValueOperations<String, String> vOpsTime = redisTemplate.opsForValue();

		
		while (true) {
			String t = vOpsTime.get("testTime");
			if (StringUtils.isBlank(t)) {
				vOpsTime.set("testTime", "0", 1, TimeUnit.SECONDS);
				
				vOpsCounter.expire(2,  TimeUnit.SECONDS);
			} 
			if (StringUtils.isNotBlank(t) && vOpsCounter.increment(1L) > 1000) {
				System.out.println(vOpsCounter.increment(0L) + "===超流");
				break;
			}else{
				System.out.print("執行===");
			}
		}
		System.out.println("結束");
		
		
	

二、令牌桶

令牌桶算法是一個存放固定容量令牌的桶,按照固定速率往桶裏添加令牌。令牌桶算法的描述如下:

  • 假設限制2r/s,則按照500毫秒的固定速率往桶中添加令牌;

  • 桶中最多存放b個令牌,當桶滿時,新添加的令牌被丟棄或拒絕;

  • 當一個n個字節大小的數據包到達,將從桶中刪除n個令牌,接着數據包被髮送到網絡上;

  • 如果桶中的令牌不足n個,則不會刪除令牌,且該數據包將被限流(要麼丟棄,要麼緩衝區等待)。

 

// 默認每秒產生N(10)個許可證
	static RateLimiter rate = RateLimiter.create(10);
	// 可以自己指定單位
	// static RateLimiter rate = RateLimiter.create(1000, 1, TimeUnit.SECONDS);

	public static void main(String[] args) {
		// 阻塞直到獲取1個許可證
		// rate.acquire();

		for (int i = 0; i < 10; i++) {
			new Thread(new Runnable() {
				@Override
				public void run() {
					// 非阻塞獲取,在指定時間範圍內獲取許可
					if (rate.tryAcquire(1, 500, TimeUnit.MILLISECONDS)) {
						System.out.println("======>>執行");
					} else {
						System.out.println("======>>超流");
					}

				}
			}).start();
		}

	}

---------------------------------------------------------------->>寫得不好地方,請留言

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章