微服務熔斷

https://mp.weixin.qq.com/s/cxd0Fol4BBzx4v2qm-hlwQ
 

我這篇文章來的晚了些,因爲hystrix已經進入維護模式。但已經有非常多的同學入坑了,那麼本篇文章就是及時雨。本文將說明熔斷使用的一些注意事項,可能會細的讓你厭煩。

前半段,是理論部分,各種熔斷都適用。後半段,是參數部分,適合微調。

那我們開始。

通常來說,皇帝在微服務裏想夜生活過得舒服,能夠大刀闊斧單刀直入,不因私事丟江山,就不得不靠熔斷大總管

時過境遷。提到熔斷大總管就不得不說他手下最突出的三位公公:sentinel,或hystrix,也可能是resilience4j。

這三位都是解決一類問題的,如著名的雪崩:A→B→C互相依次調用,但C項目很可能出現問題(流量過大或者報錯等),引發線程一直進行等待,導致拖垮整個鏈路層,線程資源耗盡。

 

 

一、背景

假如是用的spring全家桶系列,在接口調用上大多會走這個路線。我們這裏依然是在說hystrix,雖然現在不再受寵。

Feign —-→
Hystrix —-→
Ribbon —-→
Http Client(apache http components/Okhttp)

具體如下圖所示:

 

二、配置

首先來點理論性的東西。好喫不貴。

Ⅰ隔離方式

線程隔離(默認):使用一個線程池來存儲當前的請求,線程池對請求作處理,設置任務返回處理超時時間,堆積的請求堆積入線程池隊列。這種方式需要爲每個依賴的服務申請線程池,有一定的資源消耗,好處是可以應對突發流量(流量洪峯來臨時,處理不完可將數據存儲到線程池隊裏慢慢處理)

信號隔離:使用一個原子計數器(或信號量)來記錄當前有多少個線程在運行,請求來先判斷計數器的數值,若超過設置的最大線程個數則丟棄改類型的新請求,若不超過則執行計數操作請求來計數器+1,請求返回計數器-1。這種方式是嚴格的控制線程且立即返回模式,無法應對突發流量(流量洪峯來臨時,處理的線程超過數量,其他的請求會直接返回,不繼續去請求依賴的服務)

Ⅱ熔斷

如果某個目標服務調用慢或者大量超時,則此時熔斷該服務的調用,對於後續調用請求,不再繼續調用目標服務,直接返回,快速釋放資源。如果目標服務情況好轉,則恢復調用。

這個過程,可以想象成保險絲的行爲。

行爲雖然簡單,但需要調節的參數卻非常多。

使用方式

1.引入依賴

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>

2.配置參數

feign:
  hystrix:
#不配置或爲false則不生效
    enabled: true
hystrix:
  command:
    default:
      execution:
        isolation:
          thread:
#若配置了重試則超時時間= (1 + MaxAutoRetries + MaxAutoRetriesNextServer) * ReadTimeout
            timeoutInMilliseconds: 60000
  threadpool:
    default:
      coreSize: 10
      maxQueueSize: 50
      queueSizeRejectionThreshold: 30
      keepAliveTimeMinutes: 3

3.配置fallback

因業務處理不同,建議每個feign client使用不同的fallback

到此,hystrix已經可以走馬上任,至於幹活兒穩不穩那是後話。

4.配置的其他姿勢

hystrix到任務後,發現有的服務接口1s內就完事兒 ,還有的5s到10幾秒才堪堪返回。一刀切的配置已難以管理諸多服務&接口。

想必已經有人發現,之前配置中混進了奇怪的東西——default關鍵詞。這是對全局配置,那麼對應的肯定有局部的配置。

如:對服務的,對某個接口的…

hystrix:
  command:
    default:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 60000
  threadpool:
#全局配置
    default:
      coreSize: 10
      maxQueueSize: 50
      queueSizeRejectionThreshold: 30
      keepAliveTimeMinutes: 3
#對某個服務配置,寫service-id
    base-rpc:
      coreSize: 10
      maxQueueSize: 30
      queueSizeRejectionThreshold: 20
      keepAliveTimeMinutes: 3
#對某個接口配置
    BaseApiClient#searchItemSkuList(PosSkuSearch):
      coreSize: 10
      maxQueueSize: 40
      queueSizeRejectionThreshold: 30
      keepAliveTimeMinutes: 1

另外,還可以使用@HystrixCommand註解進行配置。

5.配置的動態修改

很多情況下,不能修改個配置,特別是臨時修改配置就重啓下服務,能動態刷新就最好了。
於是我們盯上了hystrix使用archaius管理配置的問題。

archaius是Netflix公司開源項目之一,基於java的配置管理類庫,主要用於多配置存儲的動態獲取。
主要功能是對apache common configuration類庫的擴展。在雲平臺開發中可以將其用作分佈式配置管理依賴構件。同時,它有如下一些特性:
動態獲取屬性
高效和線程安全的配置操作
配置改變時提供回調機制
可以通過jmx操作配置
複合配置

說了這麼多那該怎麼整呢?以下就是簡單的示例。

//撈配置
AbstractConfiguration config = ConfigurationManager.getConfigInstance();

//提取關注的部分,比如hystrix.threadpool
Iterable<String> iterable = () -> config.getKeys("hystrix.threadpool");
List<Property> result = StreamSupport.stream(iterable.spliterator(), false).map(t -> new Property(t, config.getString(t, "")))
        .sorted(Comparator.comparing(Property::getName)).collect(Collectors.toList());

//修改配置
config.setProperty("hystrix.threadpool.base-rpc.coreSize", 20);

//移除配置
config.clearProperty(hystrix.threadpool.base-rpc.coreSize");

三、其他參數

要是覺得hystrix這麼聽話,那就太小看它了。別忘了前面有feign,後面還有ribbon,再往後http client呢!一堆超時參數,當代的八門金鎖陣

1.feign超時

feign:
  hystrix:
    enabled: true
  client:
    config:
      default:
        connectTimeout: 5000
        readTimeout: 5000
      rpc-pos:
        connectTimeout: 5000
        readTimeout: 8000
      xx-rpc:
        connectTimeout: 5000
        readTimeout: 12000
      order-rpc:
        connectTimeout: 5000
        readTimeout: 8000

feign是暴露給用戶使用的,Spring在處理這一塊的時候,會有意識地使用feign的超時時間來設置後面的ribbon 和http client組件。

2.ribbon超時

#全局配置
ribbon:
  ReadTimeout: 60000
  ConnectTimeout: 10000
  #false to only allow get method to retry
  OkToRetryOnAllOperations: true
  # Max number of next servers to retry (excluding the first server)
  MaxAutoRetriesNextServer: 2
  # Max number of retries on the same server (excluding the first try)
  MaxAutoRetries: 0
  # Interval to refresh the server list from the source
  ServerListRefreshInterval: 5000
  retryableStatusCodes: 404,500
#服務配置
base-rpc:
  ribbon:
    ReadTimeout: 60000
    ConnectTimeout: 10000
    #false to only allow get method to retry
    OkToRetryOnAllOperations: true
    # Max number of next servers to retry (excluding the first server)
    MaxAutoRetriesNextServer: 2
    # Max number of retries on the same server (excluding the first try)
    MaxAutoRetries: 0
    # Interval to refresh the server list from the source
    ServerListRefreshInterval: 5000
    retryableStatusCodes: 404,500

當feign設置了超時時間,Ribbon會依據feign的設置同步。Ribbon的這個超時時間,用於指導真正調用接口時,設置真正實現者的超時時間。

httpclient超時

feign:
  hystrix:
    enabled: true
  okhttp:
    enabled: true
  httpclient:
    enabled: false
//連接池最大連接數,默認200
    max-connections: 500
//每一個IP最大佔用多少連接 默認 50
    max-connections-per-route: 50
//默認連接超時時間:2000毫秒
    connection-timeout: 8000
//連接池管理定時器執行頻率:默認 3000毫秒
    connection-timer-repeat: 6000
//連接池中存活時間,默認爲5
    time-to-live: 5
    time-to-live-unit: minutes

超時設置遵循的基本原則是:依賴方的超時配置覆蓋被依賴方的配置,而其配置覆蓋的形式,則是使用的Spring Boot 的 AutoConfiguration 機制實現的

如:若開啓feign.okhttp.enabled=true,則okhttp的超時時間是feign.httpclient.connectionTimeout的值,默認2000毫秒

總結:超時——還是  feign  說了算!

四、hystrix dashboard

能夠將這些狀態可視化,是非常棒的,需要引入一個jar包。

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
</dependency>

下面這張圖,就是針對後臺監控的一些解釋。


(圖片來自網絡)

附:配置參數說明

一、Command Properties

以下屬性控制HystrixCommand,前綴hystrix.command.default

1、Execution

以下屬性控制HystrixCommand.run()如何執行。
比較重要的參數,有:
execution.isolation.strategy
execution.isolation.thread.timeoutInMilliseconds

2、Fallback

以下屬性控制HystrixCommand.getFallback()如何執行。這些屬性適用於ExecutionIsolationStrategy.THREAD和ExecutionIsolationStrategy.SEMAPHORE。

3、Circuit Breaker

斷路器屬性控制HystrixCircuitBreaker。

 

4、Metrics

以下屬性與從HystrixCommand和HystrixObservableCommand執行捕獲指標有關。

5、Request Context

這些屬性涉及HystrixCommand使用的HystrixRequestContext功能

二、Command Properties

下列屬性控制HystrixCollapser行爲。前綴:hystrix.collapser.default

三、ThreadPool Properties

以下屬性控制Hystrix命令在其上執行的線程池的行爲。
大多數時候,默認值爲10的線程會很好(通常可以做得更小)前綴:hystrix.threadpool.default

End

 

這貨,說不更新,還真不更新了。但我們的遺留系統,有很多模塊在用着,所以我還是把它的細節參數給摳出來了。這應該是絕版吧,因爲hystrix是絕更了。

本文只適合收藏,不適合分享。分享出去,會等於拿着大喇叭告訴別人,你正在給某個遺留系統填坑呢。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章