基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

昨天有網友問我:

大型傳統企業如何在公司級數據整合、數據治理、數據運營中把握好業務和數據的關係,逐步實現智能化轉型?

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

背景:

大型傳統企業,通常都面臨業務系統數據孤島、各板塊專業化程度高、多流程銜接交叉、數據不統一不完整不開放等問題。在搭建好物理層面hadoop數據平臺的基礎上,如何以業務流程爲導向梳理數據走向,達成數據價值轉化輸出?

Gartner一項統計結果表明:到2019年,由於面對技能和整合的挑戰,70%以上的Hadoop應用將陷入困境。

現在很多商業智能提供上都在爲大數據應用傾注各種心血,大數據應用也變得更容易、更平滑。技能與整合會爲我們帶來挑戰,那麼挑戰和困難會出現在什麼地方呢?

企業面臨的問題

問題一:業務系統數據孤島、各板塊專業化程度高

這是典型數據孤島問題:業務系統很多,系統之間的數據不連通,造成信息壁壘。這樣的問題要着重主數據管理,制定標準規則。

問題二:數據不統一不完整不開放

數據來源渠道多,責任不明確,數據填報缺失這些都是質量差的問題。這樣的問題要着重數據治理,性能優化上可以採取分佈式數據庫。

問題三:以業務流程爲導向梳理數據走向

這背後暗藏的現實可能是:

  • 業務部門需求轟炸,IT部門成爲一個取數機;
  • 指標零散,業務和IT都不知道分析什麼;
  • 報表不成體系,有些報表冗餘。

這也是很多企業的共性問題。

問題四:希望達成數據價值轉化輸出

因爲問題三的原因,IT疲於業務需求,應付各種報表,數據沒有很好形式展現,也無法對業務決策產生幫助。相應的,IT部門也無法對業務產生顯性價值。

要讓數據服務於業務,落地產生價值,具體該怎麼做?

基於hadoop數據平臺,先拋架構!

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

10分鐘零基礎就可搞懂的Hadoop架構原理,阿里架構師詳解》,昨天的這篇文章已經把hadoop的架構講的非常詳細了,各位如果有不懂的再回頭去看,也可以私聊我。

第一步:構建一個完善的數據環境

1.主數據管理

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

(1)定標準

所需標準有編碼規則,命名原則、劃分原則、共享原則。

  • 標準規劃:根據企業實際情況確定實施範圍,並根據優先級和難易度制定計劃。可以通過調查問卷、現場訪談、收集文檔等手段進行調研標準的內容:數據分佈、數據流向、服務規則等,形成調研報告。
  • 標準設計:在方法論的指導下,完成數據標準設計和定義工作,如數據業務描述定義、類型長度定義、其他信息定義。
  • 實施映射:將已定義的數據標準與業務系統、業務應用進行映射,註明兩者的關係及影響的應用。
  • 標準執行:藉助專業的工具實現標準落地檢查。
  • 維護增強:隨着業務發展,數據標準需要不斷的修訂和完善,並有效的持續維護改進。

(2)搭平臺

將各業務中可能流通共享的主數據的名稱和標準統一起來。

(3)控制關鍵環節流轉

包括主數據管理的關鍵環節、合理排布關鍵環節處理順序、安排責任崗位或部門對應關鍵環節。

2.數據質量

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

第二步:開展業務分析

1.指標梳理

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

分析什麼數據,如何反饋給業務,這些都已轉化成指標來解決

指標梳理需要和業務部門一同進行。可以通過訪談和調研梳理各業務層級關注的指標,從基層到高層。也可以將企業已有的SCOR、計分卡等績效體系或者已有的業務分析體系,轉化成可說明情況的指標。

2.建立全指標體系

指標梳理清楚後,從每一條業務線出發。這塊業務對企業目標負責的關鍵成果是什麼(KPA)——每一個KPA又可以用什麼維度來衡量(KRA)——最後落實到基層的關鍵行動指標是什麼(KPI)

最後所有業務彙總,形成一個全指標體系。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

3.梳理報表體系

梳理完指標體系後,大致也就知道每個業務部門需要分析什麼數據了。數據通常以報表的形式呈現,報表就都相當與數據落地的產品,有主題有規劃的分析。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

基礎查詢類報表:來自於基層業務和日常工作,功能作用於某一項具體的工作,比如銷售業績查詢、商品庫存查詢、在途庫存查詢、採購訂單查詢等。用戶在工作需要時,會通過查詢此類報表,來得到自己想要的數據,以支撐自己的工作。

經營報表:用於日常管理,其功能不單作用於某項具體的工作,而是覆蓋相關部門或某部門管理的一個工作模塊。例如店長業績管理看板、庫存管理、異常店鋪管理等。這類報表基於日常管理工作,通過查看這類報表來監控所負責業務的當前狀態,發現問題,這類報表就屬於決策輔助了。(如下方財務部門的數據監控)

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

finereport做的報表

戰略報表:這個就用於高層集團事物的管理,比如boss們關注的每日盈利狀況,項目進度監控等等。這類報表通常以駕駛艙的形式展現,用於企業全局監控。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

finereport做的報表

我在文章的開頭就說過,現在很多公司的報表不成體系,就像一個個數據孤島,非常兀餘,

在此我推薦給大家一個我曾經主導項目所用的軟件,就是因爲該項目的成功實施,幫助我順利升職轉戰管理崗位,然後纔有了一系列的跳槽,好不好用我說了不算,我只是站在一個普通用戶的角度來幫助同行的你們。大家請往下看。

4.建立分析體系

到這裏就是數據分析的範疇了,不同於日常管理經營類報表單方面的展現,這裏更注重某一塊業務問題,通過分析數據比如來縮減供應鏈成本、通過分析市場環境制定市場策略等。通常在傳統企業的應用有智能製造、大數據營銷、供應鏈優化、市場活動ROI分析、新零售業務提升、用戶畫像和客戶標籤等等。

這需要數據部門主動找活幹,去爲業務創造價值,因此更具針對性和主動性。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

如何快速製作讓領導滿意的報表

1、用什麼工具來做?

這可能是大家最關心的。做報表,可能涉及到和業務系統的打通,需求多,而且Excel收集數據以及製作報表基本都是全手工,工作量大且容易出錯,遇到大數據量的時候會卡死,而且要做精美的可視化離不開數據的整理,遂放棄。其實資源有限的情況下可以用專業的報表工具,這裏我用的是FineReport。

FineReport是一款企業級的web報表產品,能做數據錄入、查詢和展示。做複雜的格子類報表親測秒殺Excel,關鍵是做可視化的dashboard很有一套。傳統的格子類報表,常常以表格的形式展現,它能突出數據本身,但並不利於直觀的看出數據之間的關係/趨勢等。FineReport除了能實現複雜的表格樣式外,還具備極其豐富的圖表,能夠滿足多樣的數據可視化場景訴求。

其數據可視化分爲三個大類:統計圖表、專注大屏的動效圖表還有一些自定義的可視化插件。

(1)統計圖表

FineReport提供數十類100多種統計圖表,每類又包含多種風格樣式。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

每種圖表的實際示例,我從官方演示系統截圖下來的,乍一看很像Echarts圖表庫。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

(2)可視化大屏類動效圖表

就是上文很炫的可視化大屏。它裏面有專爲大屏數據可視化開發的一些動效圖表。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

做成的大屏就是像下面這樣的。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

(3)插件

除了官方產品自帶的圖表外,還有衆多擴展圖表插件。擴展圖表插件是基於webgl等技術開發,通過簡單拖拽即可實現自動播放、3D動畫特效等多種效果,比如3D地球、3D卡片動畫等。且可以根據圖表類型和數據提供“自動輪播”和“定時刷新”,滿足用戶不同場景下的業務需求,在體現數據價值的同時讓大屏炫酷起來。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

2、可視化報表如何平衡實用及美感,避免花裏胡哨?

酷炫而無物是做可視化要避免的,不能一味的追求可視化而忘記數據想要傳達的業務含義。所以,可視化的前提在於你要展示哪些數據和指標。

站在分析的角度來佈局。假設你要做一張可視化報表,報表一定有明確的主題,比如項目經營分析。有了明確的主題一定有幾個與之核心相關的指標,比如項目銷售額、項目回款額、項目進展進度等等。然後指標可以再多維度拆解。

比如從時間的維度。每個月項目銷售情況如何,在建項目的進展如何?

從地理維度。各大區域項目情況如何?可以做個排名情況。

從計劃維度。和年初定的計劃相比,差了多少?

做好以上工作再去考慮每一塊展示用什麼圖表和表格,怎麼佈局搭配,可以借鑑以下的思路。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

另外一個點,領導所要看的報表其實和基礎報表不一樣,管理層的報表更多是想從數據的展示中分析出一些對業務有幫助的信息,更加註重數據分析和糾查甄錯。也就是帶着數據分析的思路去製作可視化報表。除了指標排布是哪個需要着重考量,報表也要給與一些分析屬性。

比如一張報表只能展現全國的項目銷售額、項目回款額、項目進展進度,但假若發現某個月的數據極其低迷,想要分析原因,可以通過對地域、項目產品等維度進行下鑽分析,分析到底是哪個環節出了問題。

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

基於hadoop架構的企業數字化轉型,阿里數據中臺實戰案例

 

這一塊finereport有很強大分析鑽取功能。

所以,總結來講,就是

① 對展現什麼數據指標思路要清晰

② 可視化要圍繞分析走

③ 巧用動態報表

總結

至此,關於原問題,我覺得可以從第二步開始展開,先以當下業務流程爲導向,梳理指標體系,進而梳理報表體系。

工具上,需要一個具有開放性的報表/BI系統來支撐,需要滿足的需求:

① 要能連接各系統數據,打通數據壁壘

② 能支撐底層的hadoop大數據平臺架構,具有良好的數據處理性能

③ 前端可視化美觀,做報表方便,具有一定分析功能。(看臉的世界,美而有用,業務才認同)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章