數據倉庫建模與ETL的實踐技巧

一、Data倉庫的架構

  Data倉庫(Data Warehouse DW)是爲了便於多維分析和多角度展現而將Data按特定的模式進行存儲所建立起來的關係型Datcbase,它的Data基於OLTP源Systam。Data倉庫中的Data是細節的、集成的、面向主題的,以OLAPSystam的分析需求爲目的。

  Data倉庫的架構模型包括了星型架構與雪花型架構兩種模式。星型架構的中間爲事實表,四周爲維度表,類似星星;而相比較而言,雪花型架構的中間爲事實表,兩邊的維度表可以再有其關聯子表,從而表達了清晰的維度層次關係。

  從OLAPSystam的分析需求和ETL的處理效率兩方面來考慮:星型結構聚合快,分析效率高;而雪花型結構明確,便於與OLTPSystam交互。因此,在實際項目中,我們將綜合運用星型架構與雪花型架構來設計Data倉庫。

  那麼,下面我們就來看一看,構建企業級Data倉庫的流程。

  二、構建企業級Data倉庫五步法

  (一)、確定主題

  即確定Data分析或前端展現的主題。例如:我們希望分析某年某月某一地區的啤酒銷售情況,這就是一個主題。主題要體現出某一方面的各分析角度(維度)和統計數value型Data(量度)之間的關係,確定主題時要綜合考慮。

  我們可以形象的將一個主題想象爲一顆星星:統計數value型Data(量度)存在於星星中間的事實表;分析角度(維度)是星星的各個角;我們將通過維度的組合,來考察量度。那麼,“某年某月某一地區的啤酒銷售情況”這樣一個主題,就要求我們通過時間和地區兩個維度的組合,來考察銷售情況這個量度。從而,不同的主題來源於Data倉庫中的不同子集,我們可以稱之爲Data集市。Data集市體現了Data倉庫某一方面的信息,多個Data集市構成了Data倉庫。

  (二)、確定量度

  在確定了主題以後,我們將考慮要分析的技術指標,諸如年銷售額之類。它們一般爲數value型Data。我們或者將該Data彙總,或者將該Data取次數、獨立次數或取最大最小value等,這樣的Data稱爲量度。

  量度是要統計的指標,必須事先選擇恰當,基於不同的量度可以進行復雜關鍵性能指標(KPI)等的設計和計算。

  (三)、確定事實Data粒度

  在確定了量度之後,我們要考慮到該量度的彙總情況和不同維度下量度的聚合情況。考慮到量度的聚合程度不同,我們將採用“最小粒度原則”,即將量度的粒度設置到最小。

  例如:假設目前的Data最小記錄到秒,即Datcbase中記錄了每一秒的交易額。那麼,如果我們可以確認,在將來的分析需求中,時間只需要精確到天就可以的話,我們就可以在ETL處理過程中,按天來彙總Data,此時,Data倉庫中量度的粒度就是“天”;反過來,如果我們不能確認將來的分析需求在時間上是否需要精確到秒,那麼,我們就需要遵循“最小粒度原則”,在Data倉庫的事實表中保留每一秒的Data,以便日後對“秒”進行分析。

  在採用“最小粒度原則”的同時,我們不必擔心海量Data所帶來的彙總分析效率問題,因爲在後續建立多維分析模型(CUBE)的時候,我們會對Data提前進行彙總,從而保障產生分析結果的效率。關於建立多維分析模型(CUBE)的相關問題,我們將在下期欄目中予以闡述。

  (四)、確定維度

  維度是指分析的各個角度。例如我們希望按照時間,或者按照地區,或者按照產品進行分析,那麼這裏的時間、地區、產品就是相應的維度。基於不同的維度,我們可以看到各量度的彙總情況,也可以基於所有的維度進行交叉分析。

  這裏我們首先要確定維度的層次(HierarChy)和級別(Level。我們在時間維度上,按照“年-季度-月”形成了一個層次,其中“年”、“季度”、“月”成爲了這個層次的3個級別;同理,當我們建立產品維度時,我們可以將“產品大類-產品子類-產品”劃爲一個層次,其中包含“產品大類”、“產品子類”、“產品”三個級別。

  那麼,我們分析中所用到的這些維度,在Data倉庫中的存在形式是怎樣的呢?

 我們可以將3個級別設置成一張Data表中的3個字段,比如時間維度;我們也可以使用三張表,分別保存產品大類、產品子類、產品三部分Data,比如產品維度。
  另外,value得一提的是,我們在建立維度表時要充分使用代理鍵。代理鍵是數value型的ID號碼(例如每張表的第一個字段),它唯一標識了每一維度成員。更重要的是,在聚合時,數value型字段的匹配和比較,JOIN效率高,便於聚合。同時,代理鍵對緩慢變化維度有着重要的意義,在原Data主鍵相同的情況下,它起到了對新Data與歷史Data的標識作用。

  在此,我們不妨談一談維度表隨時間變化的問題,這是我們經常會遇到的情況,我們稱其爲緩慢變化維度。

  比如我們增加了新的產品,或者產品的ID號碼修改了,或者產品增加了一個新的屬性,此時,維度表就會被修改或者增加新的記錄行。這樣,我們在ETL的過程中,就要考慮到緩慢變化維度的處理。對於緩慢變化維度,有三種情況:

  1、緩慢變化維度第一種TYPE:

  歷史Data需要修改。這種情況下,我們使用UPDATEmethod來修改維度表中的Data。例如:產品的ID號碼爲123,後來發現ID號碼錯了,需要改寫成456,那麼,我們就在ETL處理時,直接修改維度表中原來的ID號碼爲456。

  2、緩慢變化維度第二種TYPE:

  歷史Data保留,新增Data也要保留。這時,要將原Data更新,將新Data插入,我們使用UPDATE / INSERT。比如:某一員工2005年在A部門,2006年時他調到了B部門。那麼在統計2005年的Data時就應該將該員工定位到A部門;而在統計2006年Data時就應該定位到B部門,然後再有新的Data插入時,將按照新部門(B部門)進行處理,這樣我們的做法是將該維度成員列表加入標識列,將歷史的Data標識爲“過期”,將目前的Data標識爲“當前的”。另一種method是將該維度打上時間戳,即將歷史Data生效的時間段作爲它的一個屬性,在與原始表匹配生成事實表時將按照時間段進行關聯,這種method的好處是該維度成員生效時間明確。

  3、緩慢變化維度第三種TYPE:

  新增Data維度成員改變了屬性。例如:某一維度成員新加入了一列,該列在歷史Data中不能基於它瀏覽,而在目前Data和將來Data中可以按照它瀏覽,那麼此時我們需要改變維度表屬性,即加入新的字段列。那麼,我們將使用存儲過程或程式生成新的維度屬性,在後續的Data中將基於新的屬性進行查看。

  (五)、創建事實表

  在確定好事實Data和維度後,我們將考慮加載事實表。

  在公司的大量Data堆積如山時,我們想看看裏面究竟是什麼,結果發現裏面是一筆筆生產記錄,一筆筆交易記錄… 那麼這些記錄是我們將要建立的事實表的原始Data,即關於某一主題的事實記錄表。

  我們的做法是將原始表與維度表進行關聯,生成事實表。注意在關聯時有爲空的Data時(Data源髒),需要使用外連接,連接後我們將各維度的代理鍵取出放於事實表中,事實表除了各維度代理鍵外,還有各量度Data,這將來自原始表,事實表中將存在維度代理鍵和各量度,而不應該存在描述性信息,即符合“瘦高原則”,即要求事實表Data條數儘量多(粒度最小),而描述性信息儘量少。

  如果考慮到擴展,可以將事實表加一唯一標識列,以爲了以後擴展將該事實作爲雪花型維度,不過不需要時一般建議不用這樣做。

  事實Data表是Data倉庫的核心,需要精心維護,在JOIN後將得到事實Data表,一般記錄條數都比較大,我們需要爲其設置複合主鍵和索引,以呈現Data的完整性和基於Data倉庫的查詢性能優化。事實Data表與維度表一起放於Data倉庫中,如果前端需要連接Data倉庫進行查詢,我們還需要建立一些相關的中間彙總表或物化視,以方便查詢。

  三、什麼是ETL

  在Data倉庫的構建中,ETL貫穿於項目始終,它是整個Data倉庫的生命線,包括了Data清洗、整合、convert、加載等各個過程。如果說Data倉庫是一座大廈,那麼ETL就是大廈的根基。ETL抽取整合Data的好壞直接影響到最終的結果展現。所以ETL在整個Data倉庫項目中起着十分關鍵的作用,必須擺到十分重要的位置。

  ETL是Data抽取(ExtraCt)、convert(Transform)、加載(Load )的簡寫,它是指:將OLTPSystam中的Data抽取出來,並將不同Data源的Data進行convert和整合,得出一致性的Data,然後加載到Data倉庫中。

  那麼,在這一convert過程中,我們就完成了對Data格式的更正、對Data字段的合併、以及新增指標的計算三項操作。類似地,我們也可以根據其他需求,完善Data倉庫中的Data。

  簡而言之,通過ETL,我們可以基於源Systam中的Data來生成Data倉庫。ETL爲我們搭建了OLTPSystam和OLAPSystam之間的橋樑。

  四、項目實踐技巧

  (一)、準備區的運用

  在構建Data倉庫時,如果Data源位於一臺服務器上,Data倉庫在另一臺服務器端,考慮到Data源Server端訪問頻繁,並且Data量大,需要不斷更新,所以可以建立準備區Datcbase。先將Data抽取到準備區中,然後基於準備區中的Data進行處理,這樣處理的好處是防止了在原OLTPSystam中頻繁訪問,進行Data計算或排序等操作。

  例如我們可以按照天將Data抽取到準備區中,基於Data準備區,我們將進行Data的convert、整合、將不同Data源的Data進行一致性處理。Data準備區中將存在原始抽取表、convert中間表和臨時表以及ETL日誌表等。

  (二)、時間戳的運用

  時間維度對於某一事實主題來說十分重要,因爲不同的時間有不同的統計Data信息,那麼按照時間記錄的信息將發揮很重要的作用。在ETL中,時間戳有其特殊的作用,在上面提到的緩慢變化維度中,我們可以使用時間戳標識維度成員;在記錄Datcbase和Data倉庫的操作時,我們也將使用時間戳標識信息。例如:在進行Data抽取時,我們將按照時間戳對OLTPSystam中的Data進行抽取,比如在午夜0:00取前一天的Data,我們將按照OLTPSystam中的時間戳取GETDATE到GETDATE減一天,這樣得到前一天Data。

  (三)、日誌表的運用

  在對Data進行處理時,難免會發生Data處理錯誤,產生出錯信息,那麼我們如何獲得出錯信息並及時修正呢? method是我們使用一張或多張Log日誌表,將出錯信息記錄下來,在日誌表中我們將記錄每次抽取的條數、處理成功的條數、處理失敗的條數、處理失敗的Data、處理時間等等。這樣,當Data發生錯誤時,我們很容易發現問題所在,然後對出錯的Data進行修正或重新處理。

  (四)、使用調度

  在對Data倉庫進行增量更新時必須使用調度,即對事實Data表進行增量更新處理。在使用調度前要考慮到事實Data量,確定需要多長時間更新一次。比如希望按天進行查看,那麼我們最好按天進行抽取,如果Data量不大,可以按照月或半年對Data進行更新。如果有緩慢變化維度情況,調度時需要考慮到維度表更新情況,在更新事實Data表之前要先更新維度表。

  調度是Data倉庫的關鍵環節,要考慮縝密。在ETL的流程搭建好後,要定期對其運行,所以調度是運行ETL流程的關鍵步驟。每一次調度除了寫入Log日誌表的Data處理信息外,還要使用發送Email或報警服務等,這樣也方便的技術人員對ETL流程的把握,增強了安全性和Data處理的準確性。

  五、總結

  構建企業級Data倉庫需要簡單的五步,掌握了這五步的method,我們可以構建一個強大的Data倉庫。然而,每一步都有很深的內容需要研究與挖掘,尤其在實際項目中,我們要綜合考慮。例如:如果Data源的髒Data很多,在搭建Data倉庫之前我們首先要進行Data清洗,以剔除掉不需要的信息和髒Data。

  ETL是OLTPSystam和OLAPSystam之間的橋樑,是Data從源Systam流入Data倉庫的通道。在Data倉庫的項目實施中,它關係到整個項目的Data質量,所以馬虎不得,必須將其擺到重要位置,將Data倉庫這一大廈的根基築牢。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章