【我與WeDataSphere的故事】
有獎徵文活動,持續進行中。。
徵文活動
活動時間
2020.10.19—2020.11.22
【我與WeDataSphere的故事】有獎徵文活動,已經進入高潮,截至2020年11月17日已收到了11篇優秀案例的投稿,各位投稿者從多個方面講述了公司之前遇到的問題、邂逅WeDataSphere時的驚喜、引入WeDataSphere套件並做定製化開發的最佳實踐,和上線生產後爲公司各種應用場景帶來的巨大收益。
徵文活動還在進行中,歡迎大家繼續踊躍投稿分享自己的案例,並誠邀大家給自己喜歡的優秀案例進行點贊投票,【最受社區歡迎案例獎】將由您的點贊選出。
活動進展
GitHub鏈接:
https://github.com/WeBankFinTech/WeDataSphere/issues
以下是已投稿的11篇優秀案例簡介(按投稿時間進行排序),徵文地址如下:https://github.com/WeBankFinTech/WeDataSphere/issues,您也可以點擊底部的閱讀原文跳轉至徵文地址。
主要作品
與WeDataSphere一起
開源共建,擁抱未來
作品名
作者
《Linkis與SQL中間件(跨數據源混查)結合實踐分享》
libailin
《DSS結合數據治理應用與實踐》
Shmily
《Linkis 新引擎實現分享》
wForget
《Linkis使用分享》
labulabuduo
《DSS在程序化廣告中應用實踐》
urzeric
《數據開發平臺集成linkis分享》
JavaMrYang
《DSS+Linkis在知因智慧使用情況》
limeng
《有酒嗎?上兩斤二鍋頭》
ACodePorter
《天翼雲對DSS的公有云改造和後續思路》
《我的酒量大概就是一打啤酒或者半斤白酒,再或者WedataSphere的四兩微笑》
ocean
《天翼雲數據中臺工具的選型應用以及後續思路》
Adam Wang
詳細內容
聽故事
品WeDataSphere
案例主題:Linkis與SQL中間件(跨數據源混查)結合實踐分享
案例分享人:libailin
案例簡介:在公司有很多運營、數據分析的童鞋,有跨不同數據源混查的需求,如查詢hive表的數據,但是維度映射數據在mysql裏。還有要兩個mysql數據庫(不同服務器)關聯查詢等情況,之前使用的Apache Livy作爲SQL執行入口,但是體驗上不盡人意。看奇虎360的專家是如何通過Linkis與奇虎360自研開源的SQL中間件完美結合,來滿足上述需求的?
案例主題:DSS結合數據治理應用與實踐
案例分享人:Shmily
案例簡介:大數據對於公司的貸前、貸中、模型、風控業務以及客戶生命週期管理等各個方面都起到了至關重要的作用,在未使用DSS前,對業務方來說,作業狀態進度未知,各業務科室的分析作業沒有統一的管理,作業調度發佈流程繁瑣隨意,報表開發複雜,缺乏一個高效的、全流程打通的數據分析平臺;對於數據團隊來說,管理調度任務非常繁瑣,需要耗費大量人力協助業務方開發。看薩摩耶數科是如何引入WeDataSphere的各個組件,並基於WeDataSphere的組件做二開定製化開發的?
案例主題:Linkis 新引擎實現分享
案例分享人:wForget (Linkis Committer)
案例簡介:wForget是Linkis的Committer,由他主導的Linkis-0.11 版本,實現了全新的ElasticSearch 和 Presto 引擎,極大豐富了Linkis的應用場景。wForget將從執行引擎架構的選擇、ES引擎如何實現資源併發控制、ElasticSearch 引擎的具體實現和DataSource 路由等四個層面來手把手教我們Linkis如何快速接入一個全新引擎,對Linkis底層技術細節感興趣的同學一定不能錯過這本《Linkis新引擎接入權威指南》。
案例主題:Linkis使用分享
案例分享人:labulabuduo
案例簡介:公司的數據分析團隊之前使用的是SAS軟件,界面落後且需要在每臺機器上都安裝客戶端,單機環境依賴於機器配置,無法與分佈式集羣速度相比,缺少高可用高併發的特性;而且sas作爲國外成熟商業軟件,採購價格不菲。爲節省開支,支持辦公軟件國產化,看labulabuduo專家的公司引入WeDataSphere各組件,是如何適配內部的大數據環境,並替代SAS的日常分析類需求的?
案例主題:DSS在程序化廣告中應用實踐
案例分享人:urzeric
案例簡介:瓏璽科技的大數據管理平臺DMP,之前的計算任務都是用shell腳本進行定時調度, 隨着業務需求越來越複雜, 所沉澱的腳本越來越多, 變得難以維護, 增加了迭代和溝通成本;平臺的數據源多種多樣,有:MySQL、NewSQL、TiDB等,需要做頻繁的數據轉換操作, 上下文切換成本高。看瓏璽科技是如何利用WeDataSphere各組件高效的完成數據交換、數據開發、報表生產和調度來提升工作效率的?
案例主題:數據開發平臺集成linkis分享
案例分享人:JavaMrYang
案例簡介:公司的數據開發團隊之前使用Hue和Notepad記事本開發腳本,開發較落後,需要先用記事本把腳本寫好,在不同的環境hue界面測試開發腳本,然後再上傳腳本到調度平臺進行批量調度,過程較爲繁瑣,沒有統一的界面進行開發維護,而且出錯率高,沒有自動提示。看JavaMrYang專家的公司是如何引入WeDataSphere組件,適配公司內部的大數據環境,並替換Hue完成數據開發和分析工作的?
案例主題:DSS+Linkis在知因智慧使用情況
案例分享人:limeng
案例簡介:知因智慧需要大量的ETL過程,原先用Shell腳本連接各種Hql,Spark等等,XXL- Job調度,可能一個模塊就被一個大的腳本包含住了,耦合性特別強,調度這塊也有問題,無法監控中間的報錯。Limeng專家從Linkis LDAP、Linkis工作空間權限、Linkis metadata權限、兼容CDH-5.16.2和Linkis Hive引擎支持Tez等多個方面做了定製化開發,使得企業的數據挖掘和分析更加簡易,協助建立標籤特徵體系,完成標籤庫的開發和調度,更好地助力企業金融服務。這麼優秀的實踐案例,走過路過,萬不可錯過!
案例主題:有酒嗎?上兩斤二鍋頭
案例分享人:ACodePorter
案例簡介:ACodePorter專家是世界XXXL大廠的xxxxxxxx...s組小組組長一名,迫於生計開始陸續出去接客。幾番周折和理解,客戶對於數據處理的主要訴求:拖拉拽、一鍵式、智能、安全,安全,安全生產、明天能上線嗎,看ACodePorter專家是如何使用WeDataSphere各個組件,通過做容器化改造和定製化開發,拉通從數據開發編寫腳本,數據可視化生成報表,數據流組織業務,scheduls調度起來,從而漂亮拿下某市政務相關項目,帶着兄弟們喫香喝辣的?
案例主題:天翼雲對DSS的公有云改造和後續思路
案例分享人:[email protected]
案例簡介:[email protected] 是中國電信天翼雲的開發專家,是DataSphere Studio-0.9.0版本的核心開發者之一。中國電信內部自引入WeDataSphere各組件之後,業務的反饋都還不錯,同時領導也提出了把WeDataSphere組件改造成公有云版本的建議,luxl專家從對接天翼雲的單點登錄、安全性全面增強、用戶工作空間HA、用戶資源自動開通等多個方面做了非常多的定製化開發和改造,2個月便完成了全部改造工作,並使得WeDataSphere各組件成功上雲。這麼香的上雲方案大家不來看看嗎?
案例主題:我的酒量大概就是一打啤酒或者半斤白酒,再或者WedataSphere的四兩微笑
案例分享人:ocean
案例簡介:公司之前是通過傳統開發工具IntelliJ IDEA、PyCharm等來進行相應的業務開發,上傳服務器之後通過一些開源調度系統進行跑批調度;且公司業務部門衆多,產生過多的獨立數據服務系統,導致整體資源利用率不高、衆多數據孤島、信息無法互聯互通等等問題,影響了公司現有經營決策和快速變化的前端業務。看Ocean專家結合WeDataSphere現有的超多功能,如何從各業務部門的權限隔離、資源粗粒度隔離、脫離hive自帶的權限管控、以及一些其他三方系統的集成,例如象形BI(未開源)、Datax-web等完成公司級大數據開發分析平臺的開發和搭建。這裏的酒窖很大,您不想細看一下嗎?
案例主題:天翼雲數據中臺工具的選型應用以及後續思路
案例分享人:Adam Wang
案例簡介:Adam Wang是中國電信天翼雲大數據平臺的研發負責人,也是WeDataSphere多個產品的Committer。中國電信如此龐大的計算存儲體量,且在商業化和開源的大數據產品繁多的情況下,是如何一眼相中了WeDataSphere,並選擇基於WeDataSphere套件打造中國電信自有的大數據開發與服務平臺——魯班的?又是如何將內部規模非常大的老平臺的舊的所有業務遷移到基於WeDataSphere構建的魯班上的?如何使用魯班去支撐內部的經營分析項目,承接一些重要的外部民生項目的?同時將魯班搬到公有云上,如何支撐天翼雲諸葛AI平臺的大數據平臺計算存儲能力的?還有Adam Wang對開源的獨有理解大放送,絕對不容錯過!
掃碼關注我們
微信號公衆號 : WeDataSphere
GitHub:WeDataSphere
如果喜歡我們的產品或文章,請給我們的GitHub點上你寶貴的star和fork哦~~
更多資訊請掃描
👇
強勢入羣
👇
本文分享自微信公衆號 - WeDataSphere(gh_273e85fce73b)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。