12月29-30日,
中國電子技術標準化研究院
(簡稱“電子標準院”)舉辦的“第十屆中國雲計算標準和應用大會”以“標準聚力 開源共贏”爲主題在北京召開。本次大會聚焦雲計算和開源技術創新領域, 致力於推動雲計算產業以及開源社區高質量發展。
微衆銀行“
大數據 Linkis 開源計算中間件
”被評爲
第十屆中國雲計算標準和應用大會中國優秀開源項目
。
Linkis在上層應用和底層引擎之間構建了一層計算中間件
,上層應用只需對接Linkis提供的標準接口,就能連接到各種底層引擎,並實現應用間的互通。解耦應用層和引擎層,簡化複雜的網狀調用關係,降低複雜分佈式架構環境的整體複雜度和開發、運維成本。
Linkis專注於解決複雜分佈式架構環境下的緊耦合、擴展難、運維難、缺管控、應用孤島等計算治理問題,填補了開源社區計算中間件項目的空白
。
Linkis提供REST/WebSocket/JDBC接口,支持提交執行HiveSQL, SparkSQL,Shell, Python, Java, Scala等語言程序,支持對接Hive, Spark, Presto,HBase, MySQL, Oracle, TiDB, Flink等, 批量、交互式、流式各種底層計算存儲引擎。
項目啓動至今一年多的時間,迭代了9個重點版本,從起初的只有數名核心開發人員的內部小團隊,到今天吸引了近百名貢獻者參與共同開發建設。據不完全統計,目前明確反饋已在生產環境部署使用Linkis的企業有40多家,試用企業590多家,社區成員3600多名,遍及金融、電信、互聯網、製造等各行各業。
連通:能夠幫助上層應用,通過Linkis對外提供的標準化接口(如HTTP, JDBC, Java),快速的連接到多種底層計算存儲引擎(如Hive, Spark, Presto, HBase, MySQL, Oracle, TiDB, Flink等),提交執行各種類型的計算任務;並實現跨上層應用間的,用戶物料資源和計算任務運行時上下文和依賴的互通和共享,支持跨應用間的統一變量、UDF、函數、用戶資源文件共享和管理;
簡化:解耦上層應用和底層引擎,簡化整體架構複雜度及開發運維難度;
擴展:能夠插拔式的擴展支持全棧計算存儲引擎,且基於微服務+容器化的雲原生架構,支持各層服務彈性擴縮容,支持海量多類型高併發作業請求處理;
管控:通過提供金融級多租戶、資源管控、作業路由管理策略、執行智能診斷等特性支持,使得各種計算任務更可靠、可控的提交執行,成功返回結果;
複用:統一的計算中間件能力可供各個上層應用複用,大大降低了上層應用在計算治理相關的開發和運維成本。
Linkis開發團隊於
2020年下半年
,正式啓動了Linkis1.0的版本規劃和開發實現,
從計算治理的核心處理流程、計算場景、計算策略和安裝部署優化等多個方面對Linkis的架構進行調整和改進
。
Linkis1.0將主要圍繞着
計算治理
(關於計算治理的更多介紹🔗 )來進行設計和開發實現,使得Linkis作爲計算中間件,真正具備了大數據平臺層中間件的全棧引擎和全棧計算治理需求的統一出入口能力。
特別是
Linkis1.0 Orchestrator的引入,從架構層面重新設計了計算任務的提交-準備-執行
,天生便具備對複雜的編排模式和計算策略的支持,如:多活、主備、異構、混算、事務、回放等,並首次引入了再熱機制,允許計算任務在執行完成後,依據執行結果按需加入優化規則和重試規則等,全面升級Linkis對用戶複雜業務任務的編排能力,使得
Linkis成爲大數據計算存儲引擎對外提供統一標準化服務
成爲了可能。
https://github.com/WeBankFinTech/Linkis/blob/master/docs/zh_CN/README.md
https://github.com/WeBankFinTech/Linkis
https://gitee.com/WeBank/Linkis
相關推薦
本文分享自微信公衆號 - WeDataSphere(gh_273e85fce73b)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。