行業發展,標準先行|Linkis 榮獲第十屆中國雲計算標準和應用大會“中國優秀開源項目獎”


12月29-30日, 中國電子技術標準化研究院 (簡稱“電子標準院”)舉辦的“第十屆中國雲計算標準和應用大會”“標準聚力 開源共贏”爲主題在北京召開。本次大會聚焦雲計算和開源技術創新領域, 致力於推動雲計算產業以及開源社區高質量發展。


微衆銀行“ 大數據 Linkis 開源計算中間件 ”被評爲 第十屆中國雲計算標準和應用大會中國優秀開源項目

Linkis 計算中間件
 
Linkis在上層應用和底層引擎之間構建了一層計算中間件 ,上層應用只需對接Linkis提供的標準接口,就能連接到各種底層引擎,並實現應用間的互通。解耦應用層和引擎層,簡化複雜的網狀調用關係,降低複雜分佈式架構環境的整體複雜度和開發、運維成本

Linkis專注於解決複雜分佈式架構環境下的緊耦合、擴展難、運維難、缺管控、應用孤島等計算治理問題,填補了開源社區計算中間件項目的空白
Linkis提供REST/WebSocket/JDBC接口,支持提交執行HiveSQL, SparkSQL,Shell, Python, Java, Scala等語言程序,支持對接Hive, Spark, Presto,HBase, MySQL, Oracle, TiDB, Flink等, 批量、交互式、流式各種底層計算存儲引擎。
項目啓動至今一年多的時間,迭代了9個重點版本,從起初的只有數名核心開發人員的內部小團隊,到今天吸引了近百名貢獻者參與共同開發建設。據不完全統計,目前明確反饋已在生產環境部署使用Linkis的企業有40多家,試用企業590多家,社區成員3600多名,遍及金融、電信、互聯網、製造等各行各業。
 


計算中間件Linkis的核心特點

  • 連通:能夠幫助上層應用,通過Linkis對外提供的標準化接口(如HTTP, JDBC, Java),快速的連接到多種底層計算存儲引擎(如Hive, Spark, Presto, HBase, MySQL, Oracle, TiDB, Flink等),提交執行各種類型的計算任務;並實現跨上層應用間的,用戶物料資源和計算任務運行時上下文和依賴的互通和共享,支持跨應用間的統一變量、UDF、函數、用戶資源文件共享和管理;

  • 簡化:解耦上層應用和底層引擎,簡化整體架構複雜度及開發運維難度;

  • 擴展:能夠插拔式的擴展支持全棧計算存儲引擎,且基於微服務+容器化的雲原生架構,支持各層服務彈性擴縮容,支持海量多類型高併發作業請求處理;

  • 管控:通過提供金融級多租戶、資源管控、作業路由管理策略、執行智能診斷等特性支持,使得各種計算任務更可靠、可控的提交執行,成功返回結果;

  • 複用:統一的計算中間件能力可供各個上層應用複用,大大降低了上層應用在計算治理相關的開發和運維成本。


最新進展
Linkis開發團隊於 2020年下半年 ,正式啓動了Linkis1.0的版本規劃和開發實現, 從計算治理的核心處理流程、計算場景、計算策略和安裝部署優化等多個方面對Linkis的架構進行調整和改進
Linkis1.0將主要圍繞着 計算治理 (關於計算治理的更多介紹🔗 )來進行設計和開發實現,使得Linkis作爲計算中間件,真正具備了大數據平臺層中間件的全棧引擎和全棧計算治理需求的統一出入口能力

特別是 Linkis1.0 Orchestrator的引入,從架構層面重新設計了計算任務的提交-準備-執行 ,天生便具備對複雜的編排模式和計算策略的支持,如:多活、主備、異構、混算、事務、回放等,並首次引入了再熱機制,允許計算任務在執行完成後,依據執行結果按需加入優化規則和重試規則等,全面升級Linkis對用戶複雜業務任務的編排能力,使得 Linkis成爲大數據計算存儲引擎對外提供統一標準化服務 成爲了可能。  

更多 Linkis的相關介紹請訪問:
https://github.com/WeBankFinTech/Linkis/blob/master/docs/zh_CN/README.md
項目地址:
https://github.com/WeBankFinTech/Linkis
https://gitee.com/WeBank/Linkis
 

相關推薦

Linkis數據中間件,打造全面連通融合的金融級大數據平臺

計算中間件Linkis-助力Kylin 強化連接層治理的探索 | Apache Kylin Meetup 北京站

Linkis架構解析系列(一)——Linkis RPC架構解析

微衆銀行大數據平臺攜手行業夥伴舉辦計算中間件Linkis線上交流會

Linkis架構解析系列---Job執行流程源碼解析

Linkis JDBC是如何適配Tableau的?

【重磅發佈】Linkis 0.10.0 版本發佈


 掃碼關注我們 

                               更多驚喜,請點擊閱讀原文                                                    


本文分享自微信公衆號 - WeDataSphere(gh_273e85fce73b)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章