python實現數據倉庫的自動化開發
概述前面講了基於元數據驅動數據倉庫的開發,使數據倉庫自動化,可視化。這篇講用python來實現數倉的自動化開發 ,前提是你已經完成了需求調研和數據剖析,開始進行數據建模。自動化程序的流程如下:由於沒有開發前端建模頁面,需要把ods、edw、dm層建模元數據導入到元數據庫裏。 把每層的轉換查詢腳本導入元數據庫。 把源庫表的元數據信息通過python加載到元數據庫裏。 跟據建表模板自動生成每層的DDL語句。 根據程序模板自動生成每層的加載腳本。  .
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章
dataX從mysql導出數據到hbase
ASN_forever
2020-07-08 10:43:37
datax同步mysql數據到hive
ASN_forever
2020-07-08 10:43:36
阿里雲 MaxCompute 2020-11 月刊
晉恆
2020-12-03 09:55:49
阿里雲 MaxCompute 2020-10 月刊
晉恆
2020-11-09 12:19:53
數據湖 VS 數據倉庫之爭?阿里提出大數據架構新概念:湖倉一體
雲棲號資訊小哥
2020-10-15 15:34:46
阿里雲 MaxCompute 2020-9 月刊
晉恆
2020-10-10 10:31:48
【雲棲號直播】本週重磅:阿里雲CDN產品解讀及全站加速在遊戲行業的最佳實踐
雲棲號資訊小編
2020-09-09 14:43:55
基於 Flink 的典型 ETL 場景實現
雲棲號資訊小編
2020-09-08 14:31:49
阿里雲 MaxCompute 2020-8 月刊
晉恆
2020-09-04 14:25:55
【雲棲號直播】本週重磅:阿里雲“升艙計劃”重磅發佈
雲棲號資訊小編
2020-08-17 11:49:49
阿里雲 MaxCompute 2020-6 月刊
晉恆
2020-08-12 14:01:49
【雲棲號直播】本週重磅:阿里雲容器安全能力全面升級
雲棲號資訊小編
2020-08-10 14:40:50
SaaS 模式雲數據倉庫 MaxCompute 數據安全最佳實踐
雲棲號資訊小編
2020-08-07 11:58:54
【雲棲號直播】本週重磅:手把手教你玩轉阿里雲通信號碼認證服務!
雲棲號資訊小編
2020-08-03 11:31:55