大數據之路之交通大數據應用總體架構設計

上期簡單介紹了大數據,瞭解了大數據應用的可行性與必然性,事實上也的確如此,大數據在公共管理(某省的最多跑一次),教育行業(某省交通廳大數據建設),稅務行業(某省稅務大數據平臺應用建設),信息管理(某省人口庫建設)等等方面都有很多建樹,本文以智慧交通爲主題介紹下主流大數據應用的總體架構設計

雲服務

首先了解下基於雲計算的三種服務模式,現在的大數據總體架構基本上都是基於此來設計

雲服務架構

 

  • IaaS :基礎服務,處在雲服務的最底層,是一些基礎資源設施,如ECS
  • PaaS:平臺服務,用戶無需關注底層硬件和操作系統技術,可進行不間斷的擴展,如容器應用OpenShift
  • SaaS:軟件服務,可把技術,管理等都交給第三方,在平臺上做自己的軟件業務,可拿來即用,如我們經常碰到的微信,QQ等

通俗理解拿披薩來說,IaaS是用來烤披薩的燒火爐;PaaS是披薩麪餅,你可以在麪餅上面放任何你想放的東西來做各種口味披薩;SaaS是包裝,用來把披薩按你所需來包裝買賣

總體架構

大數據應用平臺總體架構

 

 

如圖展示了數據從源端接入上雲到平臺層,再到應用層接入層的整體架構,由於內容過多,這裏省略了平臺層和應用層之間的數據層架構,下面逐一介紹時會說到這個層次

源端數據層

  • 結構:這一層嚴格意義上還屬於雲下數據,數據分爲三種類型結構化數據,半結構化數據和非結構化數據,由於大數據雲計算平臺只支持數據,不支持圖片影音這些非結構化數據,到時候還需要把這些數據進行標準化結構化
  • 類型:按業務來分,數據的類型可分爲離線數據(比如財務統計),準實時數據(比如天氣情況)和實時數據(比如實時車流量),三種數據類型的如何採集和對應到哪個平臺,篇幅有限,下篇推文再講
  • 其他:此外採集頻率,數據標準,數據合成等細節篇幅有限,下篇推文再講

平臺層

  • 存儲平臺:數據上雲需要根據實際業務把數據上雲到對應平臺,如分析型數據庫,大數據平臺,文檔數據庫,對象存儲等
  • 計算平臺:這裏主要指大數據離線計算平臺,算法平臺,部分也有流計算和數據庫開發計算
  • 應用平臺:一些與大數據平臺相結合的生態應用平臺,如監控管理,Datahub等

數據層

數據層基本架構

數據層由於是多層聯合,環環相扣,血緣性很高,叫數據服務平臺更爲恰當些,這裏就是PaaS層,用戶可以在這裏對標準治理後的數據進行各種加工和分析,然後把輸出結果推送到應用層,應用層數據再推送到在線數據庫供前端應用調用

數據層根據業務基本上可分爲以下層次

 

  • 原始層:可更細分幾個區,分別存放原始數據,標準清洗後的數據,以及其他層次回饋過來的數據,是雲上數據最初始的一層
  • 中間層:爲了不使數據過度冗餘,使平臺簡潔化,一般數據離線採集都會採用全量+增量=全量的方式,這樣只需要第一次上全量,後續按照調度每次上增量即可,故此中間層就可以存放合併後的全量數據供上層調用;此外一些公共數據如代碼數據也可以放在這個層
  • 應用層:存放各種加工好的應用數據,基礎主體數據等,後續直接通過數據集成工具,把該層的應用數據按業務需求按時推送到在線熱數據庫供前端應用調用

應用層

該層主要是實際業務應用

由於我對交通行業瞭解不夠深入,只能暫時根據自己的思路和輪崗經驗提出下面的幾個應用,如有過於幼稚和可笑,請見諒

高速公路大數據亮點應用

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章