Spring Cloud Ribbon 中的 7 種負載均衡策略

負載均衡通器常有兩種實現手段,一種是服務端負載均衡器,另一種是客戶端負載均衡器,而我們今天的主角 Ribbon 就屬於後者——客戶端負載均衡器。

服務端負載均衡器的問題是,它提供了更強的流量控制權,但無法滿足不同的消費者希望使用不同負載均衡策略的需求,而使用不同負載均衡策略的場景確實是存在的,所以客戶端負載均衡就提供了這種靈活性。 然而客戶端負載均衡也有其缺點,如果配置不當,可能會導致服務提供者出現熱點,或者壓根就拿不到任何服務的情況,所以我們本文就來了解一下這 7 種內置負載均衡策略的具體規則。

Ribbon 介紹

Ribbon 是 Spring Cloud 技術棧中非常重要的基礎框架,它爲 Spring Cloud 提供了負載均衡的能力,比如 Fegin 和 OpenFegin 都是基於 Ribbon 實現的,就連 Nacos 中的負載均衡也使用了 Ribbon 框架。

Ribbon 框架的強大之處在於,它不僅內置了 7 種負載均衡策略,同時還支持用戶自定義負載均衡策略,所以其開放性和便利性也是它得以流行的主要原因。

服務端負載均衡器和客戶端負載均衡器的區別如下圖所示:
image.png
客戶端負載均衡器的實現原理是通過註冊中心,如 Nacos,將可用的服務列表拉取到本地(客戶端),再通過客戶端負載均衡器(設置的負載均衡策略)獲取到某個服務器的具體 ip 和端口,然後再通過 Http 框架請求服務並得到結果,其執行流程如下圖所示:image.png

負載均衡設置

以 Nacos 中的 Ribbon 負載均衡設置爲例,在配置文件 application.yml 中設置如下配置即可:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule #設置負載均衡策略

因爲 Nacos 中已經內置了 Ribbon,所以在實際項目開發中無需再添加 Ribbon 依賴了,這一點我們在 Nacos 的依賴樹中就可以看到,如下圖所示:
image.png
Ribbon 默認的負載均衡策略是輪詢模式,我們配置 3 個服務提供者的執行結果如下圖所示:
輪詢.gif
然後,我們再將 Ribbon 負載均衡策略設置爲隨機模式,配置內容如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #設置隨機負載均衡

重啓客戶端,執行結果如下圖所示:
隨機策略.gif

7種負載均衡策略

1.輪詢策略

輪詢策略:RoundRobinRule,按照一定的順序依次調用服務實例。比如一共有 3 個服務,第一次調用服務 1,第二次調用服務 2,第三次調用服務3,依次類推。
此策略的配置設置如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule #設置負載均衡

2.權重策略

權重策略:WeightedResponseTimeRule,根據每個服務提供者的響應時間分配一個權重,響應時間越長,權重越小,被選中的可能性也就越低。
它的實現原理是,剛開始使用輪詢策略並開啓一個計時器,每一段時間收集一次所有服務提供者的平均響應時間,然後再給每個服務提供者附上一個權重,權重越高被選中的概率也越大。
此策略的配置設置如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.WeightedResponseTimeRule

3.隨機策略

隨機策略:RandomRule,從服務提供者的列表中隨機選擇一個服務實例。
此策略的配置設置如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #設置負載均衡

4.最小連接數策略

最小連接數策略:BestAvailableRule,也叫最小併發數策略,它是遍歷服務提供者列表,選取連接數最小的⼀個服務實例。如果有相同的最小連接數,那麼會調用輪詢策略進行選取。
此策略的配置設置如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule #設置負載均衡

5.重試策略

重試策略:RetryRule,按照輪詢策略來獲取服務,如果獲取的服務實例爲 null 或已經失效,則在指定的時間之內不斷地進行重試來獲取服務,如果超過指定時間依然沒獲取到服務實例則返回 null。
此策略的配置設置如下:

ribbon:
  ConnectTimeout: 2000 # 請求連接的超時時間
  ReadTimeout: 5000 # 請求處理的超時時間
springcloud-nacos-provider: # nacos 中的服務 id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #設置負載均衡

6.可用性敏感策略

可用敏感性策略:AvailabilityFilteringRule,先過濾掉非健康的服務實例,然後再選擇連接數較小的服務實例。
此策略的配置設置如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.AvailabilityFilteringRule

7.區域敏感策略

區域敏感策略:ZoneAvoidanceRule,根據服務所在區域(zone)的性能和服務的可用性來選擇服務實例,在沒有區域的環境下,該策略和輪詢策略類似。
此策略的配置設置如下:

springcloud-nacos-provider: # nacos中的服務id
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.ZoneAvoidanceRule

項目源碼

https://gitee.com/mydb/spring-cloud-alibaba-example

總結

Ribbon 爲客戶端負載均衡器,相比於服務端負載均衡器的統一負載均衡策略來說,它提供了更多的靈活性。Ribbon 內置了 7 種負載均衡策略:輪詢策略、權重策略、隨機策略、最小連接數策略、重試策略、可用性敏感策略、區域性敏感策略,並且用戶可以通過繼承 RoundRibbonRule 來實現自定義負載均衡策略。

是非審之於己,譭譽聽之於人,得失安之於數。

公衆號:Java中文社羣

Java面試合集:https://gitee.com/mydb/interview

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章