微服務中「組件」集成

有品:There is no silver bullet;

一、簡介

在微服務工程的技術選型中,會涉及到很多組件的集成,最常用包括:緩存、消息隊列、搜索、定時任務、存儲等幾個方面;

如果工程是單服務,對於集成組件的管理來說並不算複雜;但是在分佈式的多服務系統中,隨着拆分的服務數量上升,統一管理各種組件的複雜度也會提高;

如上圖,是團隊內部維護的一份重要的系統清單:描述整個微服務體系中核心組件的依賴情況;【並不完整】

在整個工程內部拆分了幾十個服務,基於一份系統架構圖和一份組件依賴清單,如果熟悉微服務架構模式,可以非常快速的瞭解系統的基礎原理和結構;

複雜系統對於中間件的依賴很重,需要在實踐過程中不斷的積累和總結經驗,持續優化各種組件的應用策略;

對於組件來說,與項目工程的集成模式,核心的應用場景,以及在業務場景中的迭代優化,是研發需要重點關注的方面;

二、緩存管理

【集成模式】

Redis作爲最常見的緩存選型,在與分佈式工程集成時,其形式也存在很大的靈活度;

單服務:在分佈式工程中,如果服務使用獨立的Redis組件,通常是該服務支持的業務場景比較獨特,比如高併發或者數據體量較大等;

分佈式服務:微服務常見的集成方式,不同的服務使用同一個Redis的不同DB編號,其他服務必須通過該服務的接口訪問其緩存數據;

緩存中心:整個工程基於一個緩存中心服務來管理,其適配的業務場景比較特殊,多個服務緊密協作,調度和處理相同的數據主體;

在實際的分佈式系統中,通常是模式一模式二兩種都採用,而模式三更多的是應對特殊的需求場景;

【應用方式】

雖然Redis可以極大的提升效率,但是在實際的應用中,涉及最多的就是數據緩存和加鎖兩個核心能力,對於組件的API使用並不算複雜;

無論是在框架層面的淺封裝一層,還是圍繞Redis組件編寫常用的工具方法,都可以很好的實現工程和Redis相關API之間的解耦;不同服務之間緩存數據獲取,需要通過各個服務提供的接口進行查詢;

三、消息隊列

【集成模式】

Kafka作爲消息隊列的常見技術選型,在與分佈式工程集成時,在設計上會圍繞消息生產和消費的基本模式;

服務內集成:在各個服務內部直接引入消息組件,服務可能是消息生產者也可能是消費者,當重度依賴消息通信時,流程可維護性比較差;

消息服務封裝:單獨封裝消息生產消費兩個服務,來統一調度和管理消息通信,雖然提高了技術面的複雜度,但是極大降低了異步流程的管理難度;

在實際應用時,如果工程內對於消息的使用並不高頻,通常是採用模式一的策略,建議做好流程註釋和文檔維護;如果消息使用非常高頻,可以考慮模式二的策略,減輕組件維護的難度;

【應用方式】

生產和消費能力追求平衡,即便有偏差也只能是消息的【消費】大於【生產】的效率,才能避免消息堆積從而影響正常的業務流程;

實踐來看單純的基於MQ的重試機制,並不能穩定的解決分佈式架構中複雜流程的中斷問題,需要圍繞消息的存儲設計相應的調度策略,從而推動整個流程的完整執行,無論是向下推進還是向前回滾;

四、搜索引擎

【集成模式】

對於搜索引擎Elasticsearch來說,個人感覺在常規業務場景中是最容易出問題的組件,使用ES索引的數據模型,通常結構複雜並且數據體量偏大,還涉及到大量的檢索條件;

服務內管理索引和數據:通常是核心的業務場景,對數據的實時性要求極高,從常規的架構設計來考慮,雖然索引相關的結構和數據可能來自多個數據庫,但是其管理的接口會統一封裝在業務聯繫最密切的服務內;

獨立組件管理索引數據:基於獨立的組件(常用Logstash)進行調度,動態地採集、轉換和傳輸數據,不受格式或複雜度的影響,數據往往以各種各樣的形式,或分散或集中地存在於很多系統中;

無論是模式一還是模式二,都是ES常用的集成策略,比如模式一對於核心數據模型的構建,常見於訂單或商品等,模式二的經典用法之一ELK日誌採集等;

【應用方式】

以服務內部管理索引的方式來說,多數情況下索引的結構會不斷的擴展,結構更新必然也會引起數據和檢索條件的同步更新,如果是結構新增的方式更新,管理難度並不大,但是已有字段的類型更新,還需要索引重建;

對於ES這種操作起來比較複雜的技術組件,建議是把各種常用的操作編寫程序腳本來處理,並且開發相應的管理功能,用更加穩定可控的方式來管理索引的結構和數據調度;

五、定時任務

【集成模式】

Quartz任務調度組件,在分佈式系統中並不算複雜,基於定時器去觸發各種任務執行即可;

服務內構建定時器:在一些簡單的相對獨立的服務中,可以在服務內配置定時器,去執行相應的任務流程,這種模式在複雜的分佈式系統中很難維護;

獨立的任務調度服務:可以統一管理任務的調度策略和執行方式(比如同步或異步),同時對任務調度服務進行監控和維護,以此確保任務調度系統的穩定性和可靠性;

通常模式一只會在個別獨立的服務中採用,對於模式二來說,封裝獨立的任務調度服務,可以統一與其他服務進行集成或者通信,比如通過消息服務及時通知失敗的任務等;

【應用方式】

在任務調度服務中,難免要和其他服務進行通信交互,從而觸發相關任務的執行,如果系統內部定時任務不多的話,可以採用feign接口的方式觸發,如果任務非常多,可以考慮直接構建Http請求的方式,避免服務頻繁的升級迭代;

在調度任務中可能存在數據體量比較大的場景,通常就是採用分片算法加線程池併發處理的策略,但是前提也要優化好數據查詢和任務處理流程,從整體上提升任務的執行效率;

六、數據存儲

【集成模式】

以MySQL爲代表的數據存儲是系統中最核心的一層,其集成的形式也是靈活多變,與存儲層相關的組件更是五花八門;

多服務共用數據庫:對於模式一來說,在相對簡單的系統中比較常用,或者服務和數據庫本身偏向通用的功能性質,可以採用這種策略;

服務和庫的拆分模式二是分佈式架構中最常用的設計,每個服務都具有自己相應的獨立數據庫,其他服務想要訪問必須通過調用相應服務提供的接口才可以;

多數據源模式:在一個服務內集成多個數據源,像模式三讀寫分離和模式四分庫分表,這是偏數據服務的業務場景中經常使用的模式;

對於系統中的數據源管理本身就是一件複雜的事情,需要兼顧各個方面,比如數據讀寫性能,數據安全,以及服務的穩定性等;

【應用方式】

在常規的微服務工程中,通常每個服務都會使用各自獨立的數據庫,在多數據源的集成模式中,常用的邏輯就是動態路由、讀寫分離、分庫分表等,如果邏輯簡單可以自定義封裝,如果邏輯複雜可以使用成熟的組件;

服務集成多數據源的模式中,存在一個比較明顯的複雜問題,如何在不停止服務的情況下,進行數據源的動態管理,此前實踐過的模式:提供不同數據源的適配服務來實現各自的策略,在完成數據源的動態調整後,停止其中舊服務即可,雖然流程偏重偏複雜,但是穩定可靠;

七、參考源碼

編程文檔:
https://gitee.com/cicadasmile/butte-java-note

應用倉庫:
https://gitee.com/cicadasmile/butte-flyer-parent
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章