原创 第三屆IT禪修營善行實踐指導小組討論

會議過程中,各小組都說明了一下目前的現狀與問題,當然每個組也有自己的方法,一如法師所說“真正的善行實踐尚未開始”,這僅僅是預熱。 會上各位師兄提出不少方法與思路,例如如何結合O2O模式進行推廣,簡單易行、具體化的方式是否更有感召力與可行性

原创 ITIL系統數據質量檢查

       在進行ITIL系統的設計與開發過程中,總是會遇到各種各樣的數據處理方案及問題,例如ITIL平臺的數據源來自於三個不同的平臺,在不同的平臺中會有不的數據標準,同時在進行錯誤檢查的過程中又有不同的標示方式標記錯誤數據。    

原创 如何做好數據模型設計及模型管理?

通過這段時間的學習,對數據建模以及建模過程中所涉及的領域、知識有了一個初步的概念,然而如何設計好數據模型,並有效地進行模型管理是一個涉及多領域的話題。 例如,在程序開發過程中,數據涉及到需求、設計、開發、測試、後期整理的整個過程,在這個過

原创 數據質量保證若干步驟

1、管理層面:      數據質量標準(完整性、唯一性、有效性、一致性、正確性);      數據質量針對具體的數據內容,進行數據內容進行系統檢查; 2、業務層面:      數據質量關鍵對象(CTQ):業務上最重要的部分對應的數據;

原创 大數據時代下OLAP的角色轉換

在傳統的數據倉庫下,基本上都是以爲數據的完全擁有與完全存儲爲己任,進而在上面進行相應的數據操作與數據處理,然而大數據時代下OLAP本身的功能需要因爲大數據相關技術的發展而產生一些變化。個人感覺可能會產生以下幾個方向的轉換: 1、數據處理方

原创 Java高性能計算若干內容

1、分佈式系統中高性能問題及難點(單一節點能力最高) 內存和併發編程領域的難題;網絡通信;事件編程;2、內存和併發編程領域的難題 Java建立線程與CPU之間的映射及Heap與內存之間的透明化;Java無法直接操作物理內存,目前可以

原创 LOD你好,LOD再見

受前任領導臨行託孤,結果LOD項目,由於涉及干係故將全名隱去,且做LOD。然而,該項目本身帶有不少研究性質,故而可能需要稍動腦筋進行解決,或方案取巧或結果可人,然而項目交付性質偏重,所以當時權當鍛鍊一番爲目的因而選擇不少新鮮技術,由此爲課

原创 一種簡單的分佈式系統服務架構

1、整體框架 2、主要難點: 首先,使用一些現有的框架完成時,需要在負載均衡策略上進行一定的考慮,必要時可能會修改一部分現有框架的源碼; 其次,在異常情況下主負載均衡與備份負載之間需要通過ZooKeeper進行感知及業務轉換; 另外,

原创 技術做減法

隨着技術不斷地更新換代,大家對技術的熱情與信念不減,誠然,這是好事,至少證明在開發的生涯中你還算的上年輕有活力。 然而,是否真的如此拼命學習新技術之後真的對知識框架及職業生涯有幫助呢,下面來說道一二。 第一,你要學習的技術將來是否能用上,

原创 數據標準化

從廣義上來講,數據標準化的過程可以看作是業務系統內部或業務系統之間,乃至整個數據治理系統中的一個“語言”統一的過程。只有語言統一,才能讓同一業務系統或者不同業務系統之間有了對話、調用、通信的可能,從而保證使用的都是特定的某一個方言。同樣,

原创 MyCat分佈式框架演化過程(安利貼)

1、MyCat爲什麼沒用使用Netty 2、簡單、高效 3、MyCat配置文件的變遷 4、引入ZooKeeper配置(配置標準化、易於與其他系統集成) 5、跨分片SQL Join的問題 6、Spark SQL轉化問題 7、My

原创 跟着岐哥學WebApp(一)

緣生        接近年關,項目頻繁交賬,其中一個項目需要開發一個移動端採集,大概月底需要在IPad上有一個基本可用的程序,將現有的程序替下。這是大體背景,同時在架構及功能的要求還比較容易把握,移動端開發基本上還是三年前涉及Androi

原创 Apache-APR配置方案

cd httpd-2.2.2 安裝APR cd srclib/apr #./configure --prefix=/usr/local/apr #make #make install 安裝APR-util cd srclib/apr-ut

原创 如何成爲真正的數據架構師

1、爲什麼需要構建數據架構 數據標準不一致(列名相同數據類型不同、列明相同數據類型相同長度不一、列名沒有統一標準識別困難、列名定義不統一類型不一致長度不相同、中文名稱相同英文縮寫不同或英文縮寫相同中文名稱不同)數據標準化管理提些(構建動態

原创 數據標準化與數據模型的管理流程

         當一個企業進行數據標準化或數據模型管理時,除了對數據本身標準化規則或者相應表格的構建外,相當大一部分需要考慮標準化流程的管理。而在管理過程中必然會設計到新舊系統、不同部門、不同業務的衝突,這些衝突如果解決不好將會直接導致