原创 HBase 數據庫檢索性能優化策略

原文轉發自:https://www.ibm.com/developerworks/cn/java/j-lo-HBase/ HBase 數據表介紹 HBase 數據庫是一個基於分佈式的、面向列的、主要用於非結構化數據存儲用途的開源數據庫。其

原创 設計模式原則(4)接口隔離原則

定義 先來明確一下接口的概念,這裏分爲兩種接口 1、實例接口 實例化一個類對象後,對應的類就是關於這個對象的接口 2、類接口 Java中利用interface關鍵字定義的接口 接口隔離原則(ISP, Interface Segre

原创 Java日期格式化類:DateTimeFormatter與SimpleDateFormat

一個是線程安全的,一個是線程不安全的。先來看看兩者源碼:(看看註釋就一目瞭然了) DateTimeFormatter /* @implSpec * This class is immutable and thread-safe.

原创 Oracle Sql 轉 Spark SQL開發實踐中的思考與總結

實踐背景: 將一段存在五重子查詢嵌套與數據轉換計算的Oracle SP(Sql Procedure)用Spark SQL實現。並且採用Java進行開發(不能用最愛的Scala了。。。) 這段SQL的核心邏輯接近千行代碼,背後涉及到

原创 讀書筆記與思考(一)《MIT深度思考法》

何爲思考呢?是基於一定閱歷及對應知識體系下進行的推理與論證? 思考可以天馬行空,放飛自我,猶如脫繮野馬。思考也可以步步爲營,娓娓而來,有若高樓拔地而起。對於複雜的問題,思考的過程猶如解答一道數學邏輯證明題,每一步都基於現有已知的條

原创 ETL常用的三種工具介紹及對比Datastage,Informatica和Kettle

原文轉發自:https://zhuanlan.zhihu.com/p/73102112 ETL常用的三種工具介紹及對比Datastage,Informatica和Kettle ETL是數據倉庫中的非常重要的一環,是承前啓後的必要的一步。E

原创 Linux集羣數據分發腳本

基於rsync在Linux集羣節點間進行數據分發,其比scp更加高效。 代碼如下: #!/bin/bash #1judge para number pcount=$# if((pcount==0)); then echo “no

原创 How to Make a Presentation

準備 1 你的主題是什麼,傳達什麼樣的思想 2 你傳達的idea需要什麼樣的學術背景預設,是否需要做預備知識的preliminary 3 你的受衆是誰,擁有一個怎麼樣的背景 4 你擅長什麼樣的一種方式 PPT 1 motivati

原创 JVM Error:could not reserve space for object heap

錯誤背景 windows10,Java8,Idea(2019.X)上測試maven(v3.5)項目時將JVM的堆內存進行設置,此處在VM Options傳參爲:-Xms2048m -Xmx2048m。進而在運行項目時出現: co

原创 修身十一學

每每讀起十一學,思緒感慨難言以表。遂以鎮樓,以常觀之、思之、省之、自勉之。   原文摘自:王明夫《三度修煉》氣度篇      修身十一學 文/佚名 萬象未審凡幾,約其範圍,則“我、人、事、物”四綱。故世間學問,亦“修身、待人、接事、應物”

原创 設計模式原則(6)開閉原則

定義 開閉原則(OCP,Open Closed Principle):作爲系統開發中最基礎的設計原則。對各大設計原則起着領袖的作用,它指導着我們設計實現穩定而靈活的系統。 原文定義:Software entities like c

原创 spark調優(三):數據傾斜調優

轉發學習自美團技術團隊: https://tech.meituan.com   前言    繼spark調優(一):開發調優、spark調優(二):資源調優 講解了每個Spark開發人員都必須熟知的開發調優與資源調優之後,本文作爲《Spa

原创 創建BigDecimal精度丟失問題

在涉及到貨幣等一些對精確度要求絲毫不差的運用場景中,我們往往會使用BigDecimal數據類型,在此以jdk 8爲例。分別按浮點數、字符串方式創建BigDecimal,觀察兩者的差別,以明確使用方式。 示例代碼如下: BigD

原创 設計模式原則(5)迪米特法則

定義 迪米特法則(LoD,Law of Demeter)也稱最少知識法則(LKP,Least Knowledge Principle): 一個類應該要對自己耦合或調用的類知道的最少。也就是說主調類只關注被調類或被耦合類暴露出來的可

原创 設計模式原則(3)依賴倒置原則

定義 說起依賴倒置原則(DIP,Depencence Inversion Principle)就想起了控制反轉(IOC,Inversion of Control),在好幾年前本科學習階段接觸Spring時就開始知道了相關皮毛概念。