Sentinel 系統自適應限流原理剖析與實戰指導

看到標題中的幾個關鍵字系統自適應限流是不是覺得高大上，這個自適應又是如何實現的呢？

1、Sentinel 系統自適應概述

從官方瞭解到 Sentienl 系統自適應限流是一個全局的概念，對應用入口流量統一進行統一控制，結合應用的機器負載、CPU 使用率，總體平均響應時間、入口 QPS 和併發線程數等幾個維度的監控指標從而決定是否調用進行限流操作。爲了有一個直觀的感受，我們可以從官方的運維平臺看看其系統自適應限流的操作界面：

RT、線程數、入口QPS這三個指標是可以通過採集調用信息進行統計計算的，那系統LOAD、CPU使用率是如何獲取的呢？大家可以帶着這個問題進入本文的學習中來。

在詳細分析系統自適應實現原理之前我們先來思考一下 Sentinel 引入該機制的目的。

官方文檔針對這個問題有過仔細闡述，我們先來看看官方文檔對其闡述。

引入系統自適應限流的主要的目的有如下兩個：

• 保證系統不被拖垮
• 在系統穩定的前提下保證系統的吞吐量。

目前我們接觸的限流的防護思路都是設定一個指標（闊值），例如系統的負載 load 超過某個闊值後就阻止或減少流量的繼續進入，當系統負載降低到某一水平後則恢復流量的進入。通常都是被動的，其實際效果取決與闊值設置是否合理，但往往設置合理不是一件容易的事情。

那 Sentinel 提供的系統自適應是可以將設定的規則作爲一個保護因子，而允許通過的流量由處理請求的能力來決定，即根據請求的響應時間、當前系統正在處理的請求速率來決定。

那 Sentinel 是如何實現的呢？接下來用源碼的手段來揭曉其實現原理。

2、系統自適應限流原理

Sentinel 執行系統限流的核心入口類爲 SystemSlot，該類實現簡單，如下圖所示：

從這裏可以看出實現的關鍵在於SystemRuleManager，這裏是直接調用 checkSystem 進行是否觸發其限流，那我們接下來重點跟蹤一下該方法的實現。

2.1 自適應限流檢測流程

系統自適應限流檢測具體由 SystemRuleManager 的 checkSystem 方法實現，接下來詳細剖析其實現細節。

Step1：驗證相關資源，主要包含三層驗證：

• 如果資源名稱爲空，則直接跳過，這個是容錯機制。
• 如果系統自適應開關爲打開，直接放行，該開關初始化時爲 false，在加載到一條系統自適應配置規則時該狀態會設置爲 true，具體在 loadSystemConf 中。
• 如果資源的類型不是入口流量(EntryType.IN),則直接放行。
  
  Step2：從QPS爲維度驗證是否需要被限流，其實現關鍵點如下：
• 當前的qps，如果 ENTRY_NODE 爲空則返回0，否則返回該統計節點的成功 qps，那 ENTRY_NODE 統計節點是“何許人也”，原來是 Sentinel 特定定義了一個資源，其名稱爲__total_inbound_traffic__，用來採集所有入口調用的信息，當資源進入類型爲 ENTRY_TYPE_IN 時，會自動採集信息，其具體統計信息在 StatisticSlot 的 entry 方法中被調用，其截圖如下：
  
• 如果當前調用的 QPS 大於設定的QPS，即觸發限流，那這個 qps 又是在什麼時候被設置的呢？也是在加載系統限流規則時被設置，如果一個應用同一個限流點（LOAD、QPS)設置了多條規則，最小值生效。
  
  Step3：關於線程數、響應時間限流模式與QPS類似，就不再重複介紹。
  
  Step4：如果當前系統的負載超過了設定的闊值的處理邏輯，這裏就是自適應的核心所在，並不是超過負載就限流，而是需要根據當前系統的請求處理能力進行綜合判斷，具體邏輯在 checkBbr 方法中實現。關於如何獲得系統負載與 checkBbr 方法稍後會詳細介紹。
  
  Step5：如果當前CPU的負載超過了設置的闊值，觸發限流，那在JAVA中是如何獲取CPU的使用率的呢？稍後詳細介紹。

2.2 根據系統負載自適應算法詳解

正如上面的第4步驟，根據系統 Load 的會採用 TCP BBR 算法來評估是否限流，具體實現代碼如下：
SystemRuleManager#checkSystem

在 Sentinel 中估算系統的容量是以 1s 爲度量長度，用該秒內通過的最大 qps 與 最小響應時間的乘積來表示，具體的計算細節：

• maxSuccessQps 的計算取當前採樣窗口的最大值乘以1s內滑動窗口的個數，這裏其實並不是十分準確。
• minRt 最小響應時間取自當前採樣窗口中的最小響應時間。
  故得出了上述計算公式，除以1000是因爲 minRt 的時間單位是毫秒，統一爲秒。從這裏可以看出根據系統負載做限流，最終的判斷依據是線程數量。

2.3 JAVA如何獲得操作系統負載情況

在 Sentinel 中獲取操作系統負載情況的類是：SystemStatusListener，每秒採集一次。
SystemStatusListener#run

原來可以通過JDK中的 com.sun.management.OperatingSystemMXBean 獲取操作系統相關的信息。
溫馨提示：上述只對 Linux/Unix 操作系統有效，對 windows 無效。

3、實踐思考

經過上面的分析，Sentinel 中的系統自適應其實指的是按照應用所在機器的操作系統負載，再結合應用本身的請求處理能力進行的自適應，操作系統的負載情況可以通過 top 命令輸出，其示例如下：

儘管 Sentienl 的系統規則配置類型分爲 LOAD、CPU、RT、線程數、入口QPS等維度進行限流，但自適應主要是針對 LOAD 這種情況的。
Sentinel 系統級別的限流規則並不是針對某一個資源，而是針對應用所有定義EntryType.IN的資源，在使用時尤其需要注意，特別是如果一個機器上部署了多個應用，可能會造成應用本身負載不高，但所在的機器由於其他應用程序導致資源負載偏高，從而觸發限流。

---

好了，本文就介紹到這裏了，您的點贊是對我持續輸出高質量文章最大的鼓勵。

歡迎加筆者微信號(dingwpmz)，加羣探討，筆者優質專欄目錄：
1、源碼分析RocketMQ專欄(40篇+)
2、源碼分析Sentinel專欄(12篇+)
3、源碼分析Dubbo專欄(28篇+)
4、源碼分析Mybatis專欄
5、源碼分析Netty專欄(18篇+)
6、源碼分析JUC專欄
7、源碼分析Elasticjob專欄
8、Elasticsearch專欄（20篇+）
9、源碼分析MyCat專欄