數據分析團隊管理日常 - 數據分析項目的技術架構選擇和成本預測

項目需求

首先,描述一下該數據分析項目的需求。該項目通過對歷史數據的分析, 建模,從而對預測未來的趨勢。

  1. 需要分析歷史數據,必然需要從各個不同數據源獲取不同的數據,並且整理成期望的格式。
  2. 需要對數據建模,分析,則必然是有許多參數需要記錄和調整。
  3. 預測模型和預測算法經常會需要做一些局部的調整來適應業務的變化。
  4. 數據分析專家,會經常需要改動預測參數和預測算法來調整預測結果,且數據分析專家不會任何編程語言和數據庫技術,比如Python和SQL之類,這是一個既成現實的限定條件。
  5. 預測結果需要通過一個簡單易操作的平臺來輸出,使用這些數據的用戶都基本都缺乏數據操作的技能,比如Excel, SQL等,跟不具備Python之類的編程能力。
  6. 項目實施工期短,需要在較短時間之內能夠上線引用。

項目方案的選擇

根據以上需求,項目的實施方案是採取MySQL+Python + Java(web)+ Tableau 組合的方式。

  • 數據庫:Ubuntu上MySQL數據庫,根據用戶需求分析,日常數據處理量大約是在百萬條數據記錄,以上組合可以滿足該需求。

  • Python實現數據算法建模 :使用Python來做數據處理,運算是非常有優勢的。首先,就是Python編寫代碼的速度非常快,因爲算法會經常要變動,使用Python可以快速的響應用戶的需求,調整算法以適應業務需求。 其次,Python代碼的易讀性是非常好的,天長日久之後對算法進行維護,也會比較容易。

  • Java(web)實現參數修改保存界面: 由於數據分析專家時常需要修改預測參數來調整預測結果,然而數據分析專家又缺乏數據庫知識和編程能力,因此必須提供一個直觀的界面以方便他們修改預測參數,並查看預測結果。

  • Tableau在線電子報告輸出預測結果: 公司內部各業務部門都需要查看該系統的輸出結果,Tableau的在線報告是一個不錯的選擇,對於缺乏數據庫和EXCEL技能的用戶,可以方便的查看數據。選擇Tableau,也是應該公司已經投資了Tableau Server, 無需額外投資就可以把報告在線發佈到服務器上,而所有用戶都可以在線的訪問該電子報表。但Tableau的license非常昂貴,如果預算不足可以選擇微軟的Power BI。

項目部署示意圖如下
在這裏插入圖片描述

項目資源配置

項目資源配置包括硬件配置,軟件配置和開發人員配置。

  • 硬件配置
  1. 生產環境和備份環境服務器各一臺 ,配置如下:Xerox CPU x 2, 64G Memory, SSD 1T x 10, 預算大於30萬。
  2. 開發環境:每位開發人員配置1臺工作站做
  3. 測試環境:2臺工作站,測試和驗證可以同時進行。
  4. 其他:編譯發佈服務器:放在備份環境服務器上,Github 。
  • 軟件配置
  1. 服務器需軟件包括Ubuntu, MySQL, JDK等免費軟件。

  2. Tableau Server是現成的,不額外花錢。

  3. 開發軟件最主要的花費是Tableau Desktop, 2000刀一個註冊碼一年的使用權,可以裝兩臺電腦。其他開發軟件,如Github, Jekins等都是免費開源軟件,無需額外投資。

  4. 項目管理軟件使用Jira + Conference,公司已有企業級的服務器可以給各研發團隊共享,每月僅需支付少量維護費用。根據我團隊的規模,大約每月費用1500元。

  • 開發人員配置
    1. 項目經理一名兼需求人員 x 0.5 (成本:20000 / 月)
    主要職責:項目進度管理,項目預算管理,用戶需求確認,用戶界面設計(html demo),Tableau 開發
  1. 測試人員兼配置管理員 x 0.5 (成本:15000 / 月)
    主要職責: 測試案例設計,測試資源調度,測試進度安排,測試執行,Jekins配置管理,Github branch管理,生產環節發佈管理

  2. Java / Web 開發人員 x 0.5 (成本:15000 /月)
    主要職責:數據庫設計,開發,基於Springboot+React的web application開發。

  3. Python 開發人員 x 0.5(成本:15000 / 月)
    主要職責:數據庫設計,開發,使用Python實現模型算法和數據處理。

  4. 測試執行人員 1 - 2人 (成本:5000 / 月)
    主要職責:在項目開發進度比較緊張的階段,可以協助執行測試案列,最好可以按需配置,或和其他項目共享開發資源。

如果Java/Web開發人員可以同時做Python是最理想的方案了。整體人員開支在80萬人民幣每年。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章