案例丨「多法人、多中心緩存」農信內容管理平臺建設實踐

導讀:

作爲鄉村振興、服務實體經濟的金融主體,農信堅持迴歸本源,專注主業,做好服務“三農”、服務小微企業、服務金融精準扶貧三方面工作,全力支持地方經濟轉型發展。隨着移動互聯網的飛速發展,由於用戶對金融服務的需求從線下向線上轉移,新需求場景也帶來海量非結構化數據存儲、管理和高併發訪問的問題,也對金融機構提出了更高的服務質量和效率要求。同時,AI技術的應用,實現智能化客戶服務和風險管理,也提高金融機構的業務運營效率和創新能力。充分證明在構建自身特色服務的過程中,結合AI技術將會釋放非結構化數據潛在的巨大價值。

在此背景下,巨杉數據庫基於原生分佈式技術,演進出獨特的多模數據湖,支持結構化和非結構化數據的海量存儲,高併發訪問,分佈式集羣跨多中心部署,解決農信多法人機構本地數據中心建設,多中心統一數據管理的問題。巨杉深度剖析了客戶內容管理平臺的業務需求,基於多模數據湖,在結構化數據與非結構化數據融合處理方向提供了成功的解決方案,並進一步積極探索在全量數據場景下的落地方案。

巨杉數據庫農信典型客戶案例

省級農信內容管理平臺基於巨杉數據庫多級緩存數據服務,實現多法人、多中心緩存系統的數據共享能力及高併發訪問能力。在省級農信的內容管理平臺場景中,已經落地了近幾十億條、超百TB級數據的穩定支撐能力,提供多法人、多中心緩存數據場景下的數據共享及高併發訪問。

背景

省農村信用社聯合社是由省內的地市級農村信用合作聯社(農村商業銀行)和縣(市、區)級農村信用合作聯社(農村信用合作社聯合社、農村商業銀行、農村合作銀行)自願入股組成,具有獨立企業法人資格的地方性金融機構。經省政府授權,省農村信用社聯合社在省政府的領導下,負責行使對轄內市、縣(市、區)農村信用合作聯社、農村信用合作社聯合社、農村合作銀行、農村商業銀行等農村合作金融機構的行業管理、業務指導、協調服務職能。

基於農信的組織架構模式,農信的原有內容管理平臺以各社數據中心獨立建設,以滿足分社本地內容文件的業務需求以及聯合社的數據管理需求,一般的系統建設概況如圖1所示。

圖1 農信影像系統建設現狀圖

隨着移動互聯網的飛速發展,用戶對金融服務的方式由線下轉爲線下線上相結合,新需求場景帶來海量非結構化數據存儲、管理和高併發訪問的問題,而目前的建設情況形成了數據孤島,無法實現實時的跨數據中心數據訪問。

需求痛點

農信在各地擁有大量分支機構,因業務交易由各地分支機構系統承載,故內容數據存儲在本地數據中心。省中心對業務數據的管理,需要將各分中心數據通過網絡帶寬傳輸到省數據中心,數據傳輸的性能與時效嚴重不滿足業務發展需求。

業務痛點

異地分佈式架構整合難:各地農信獨立法人機構,數據中心本地化建設,難統一

網絡差:地市與省農信數據中心間網絡情況複雜,性能差

擴容難:業務系統煙囪式構建,當數據量激增,這種單點架構下系統橫向擴容難

監管難:數據單點系統部署,無雙活機制,無法全量數據在線滿足監管查詢需求,數據安全性低

爲了更好的適應業務發展的挑戰,增強市場的競爭力,急需建設各分社與總中心聯動的內容緩存系統,以滿足分社本地內容文件的管理需求,提高相關業務系統的整體性能,同時通過數據遷移、清理機制將所有的內容管理元數據信息存放在省中心,實現全社影像文件元數據統一納管,非結構化數據異地存放,最大化節省數據中心之間的帶寬。

改造方案

農信內容管理平臺是基於SequoiaDB分佈式數據庫集羣進行規劃的,改造設計框架如圖2所示。

農信內容管理平臺改造方案

 

圖2 農信內容管理平臺改造前後架構對比

本改造方案替換掉之前由關係型數據庫存儲影像元數據、高級存儲設備存儲影像非結構化數據的方式,通過省農信主中心與地市農信分中心的多級緩存服務、SequoiaDB分佈式數據庫以及中心調度的服務實現項目落地。

本改造方案採用集羣方式部署,消除單點問題,提供高可用、高併發性能。

改造方案優勢

非結構化數據統一管理:省與地市農信影像元數據、影像數據統一管理、訪問

高併發低延時:高併發、毫秒級響應

海量存儲:PB級數據管理、彈性擴容、靈活數據分片

多級緩存管理:SequoiaDB多級緩存服務提供跨數據中心、跨物理域訪問

實時在線服務:跨數據中心統一數據存儲,實時數據在線訪問

改造方案設計:

各廠商的內容管理平臺(如:信雅達、大連同方軟銀)通過調用巨杉數據庫提供的多級緩存服務,與SequoiaDB分佈式集羣進行交互,實現可按需橫向擴展的影像元數據、影像文件、標籤數據的跨中心一體化管理。

影像元數據統一存儲於省農信數據中心SequoiaDB分佈式數據庫,以便爲地市農信分數據中心提供數據查詢服務;地市農信影像數據本地數據中心存放,通過SequoiaDB多級緩存服務數據遷移機制將影像數據遷移存放於省農信內容管理平臺,實現跨中心數據訪問、統一存儲和管理。

巨杉數據庫原生分佈式架構:

圖3 SequoiaDB巨杉數據庫原生分佈式架構

SequoiaDB作爲分佈式數據庫,由數據庫存儲引擎與數據庫實例層架構組成。其中,數據庫存儲引擎是數據存儲的核心,負責提供整個數據庫的讀寫服務、數據的高可用與容災等全部核心數據服務能力。

數據庫實例模塊則作爲協議與語法的適配層,支持結構化、半結構化、非結構化數據的統一存儲,提供S3對象數據引擎接口和兼容JSON、SQL接口。

SequoiaDB分佈式數據庫架構優勢

無縫遷移:用戶可以通過創建不同類型的數據庫實例,使應用程序從傳統數據庫進行無縫遷移,大幅度降低應用程序開發者的學習成本。

應用透明:每個實例中的數據在底層是存放在一個機器還是十個機器,對上層應用來說完全透明不需要感知。

引擎級多模:兼容SDB API、SQL、S3對象數據引擎接口

高性能,低成本:全量內容數據持續在線,多策略分區管理、分域緩存,資源池化的存儲引擎層,提升海量數據管理效率及處理性能,TCO爲傳統ECM方案1/3

除此之外,系統還擁有豐富的平臺能力,如下:

系統能力

集約運營:多模數據統一管理

數據管理:數據權限管理、對象數據版本控制、歷史版本回溯等功能,數據生命週期管理、冷熱數據分層存儲,提升數據治理水平

服務節點高可用:節點無狀態,多節點提供服務

多中心:跨中心部署,邏輯隔離、物理隔離

多索引:不同字段、維度創建索引,精確查詢

數據高可用:多副本機制

滿足監管要求:數據全量在線,數據安全

系統自主可控,支持信創:支持x86、ARM,核心代碼可控

容災:同城雙活、兩地三中心、三地五中心,RPO=0,RTO<15秒

此改造方案已經成功落地實施,並幫助客戶實現系統性能提升。

結束語

未來,巨杉數據庫基於多模數據湖與AI技術的進一步深化,所構建的內容管理平臺可以更好地處理和利用非結構化數據,實現智能化客戶服務和風險管理,提高業務運營效率和創新能力,不僅爲農信銀行提供了更多的商業機會和競爭優勢,也爲金融行業的數字化轉型和升級注入了新的活力和動力。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章