原创 Kafka異常處理(消費者不消費數據)

問題 生產問題,OffsetMonitor 監控發現運行了一個月的kafka突然間消費有lag.而且消費端不消費數據 分析 在客戶端寫try..catch…捕獲異常:  2017-08-27 09:47:48,103 ERROR

原创 jenkins發佈項目到遠程主機上,配置兩臺linux如何使用SSH免密碼登錄

一、首先要配置兩臺linux如何使用SSH免密碼登錄,這樣腳本執行scp命令以及遠程執行腳本都不需要輸入密碼: A爲本地主機(即用於控制其他主機的機器,jenkins服務器) ; B爲遠程主機(即被控制的機器Server

原创 Spring 管理下的web項目,對Properties文件重要參數的加密解密處理

javaWeb項目中往往我們會把jdbc/redis等的屬性配置放在properties文件中,但是又不想讓非開發人員看到某些重要配置信息,所以需要對這樣類似與用戶名、密碼等的字段進行加密,但是Spring管理項目啓動時候只去讀取,所以

原创 kafka consumer 配置詳解

轉載自:http://www.58maisui.com/2016/11/15/884/#coordinator 1、Consumer Group 與 topic 訂閱 每個Consumer 進程都會劃歸到一個邏輯的Consumer

原创 Spark程序運行常見錯誤解決方法以及優化

task傾斜原因比較多,網絡io,cpu,mem都有可能造成這個節點上的任務執行緩慢,可以去看該節點的性能監控來分析原因。以前遇到過同事在spark的一臺worker上跑R的任務導致該節點spark task運行緩慢   一

原创 Druid連接池自定義數據庫密碼加解密的實現

1 Druid官方提供的數據庫密碼加密 1.1執行命令加密數據庫密碼 在命令行中執行如下命令: java -cp druid-1.0.16.jar com.alibaba.druid.filter.config.ConfigToo

原创 java中synchronized關鍵字的用法

在java編程中,經常需要用到同步,而用得最多的也許是synchronized關鍵字了,下面看看這個關鍵字的用法。 因爲synchronized關鍵字涉及到鎖的概念,所以先來了解一些相關的鎖知識。 java的內置鎖:每個java對象都

原创 Eclipse Maven project 錯誤解決:An error occurred while filtering resources

用eclipse創建了一個Spring boot的Maven項目,在項目上有個叉叉,通過Window -> Show View -> Markers中看到錯誤原因 An error occurred while filtering r

原创 elasticsearch5.3.0安裝sql插件

1.下載sql插件 地址https://github.com/NLPchina/elasticsearch-sql 找到對應版本 將下載的sql插件上傳到elasticsearch的plusins目錄下,重啓es。 下載

原创 Java Web項目中解決中文亂碼方法總結

一、瞭解常識:   1.UTF-8國際編碼,GBK中文編碼。GBK包含GB2312,即如果通過GB2312編碼後可以通過GBK解碼,反之可能不成立; 2、web tomcat:默認是ISO8859-1,不支持中文的 3.java

原创 Elasticsearch配置參數與核心概念

在es根目錄下有一個config目錄,在此目錄下有兩個文件分別是elasticsearch.yml和logging.yml。       logging.yml是日誌文件,es也是使用log4j來記錄日誌的,我在此文件中配置日誌級別。

原创 java Web項目中properties配置文件中的密碼加密

get到一項新技能(properties文件中value替換),之前也想過properties中配置項暴露但沒有落實,今天看到博客分享一下: 我們使用的項目經常是這個樣子的: 1 <bean id="dataSourc

原创 jenkins 系統設置(全局設置)實例

1、jenkins——>【系統管理】2、【系統設置】3、【Maven項目配置】4、【全局屬性】5、【Timestamper】6、【jenkins Location】7、【SSH Server】選擇隨機選取8、【Subversion】9、【

原创 jenkins+svn+maven+tomcat一鍵構建部署

1背景  這是這種多人協同開發,自動構建,自動部署的方案。就不用自己打包,然後上傳部署了,解放人力,便於管理。這裏只是簡單介紹各自軟件的使用與集成,其實不論svn和maven還有很多實用的用法,svn的管理規劃,maven的倉庫等。 

原创 利用阿里大於實現發送短信(JAVA版)

首先,要明白利用大於發送短信這件事是由兩部分組成:      一、在阿里大於短信平臺配置相關信息      二、在myeclipse/eclipse中編寫代碼實現發送短信  ---------------------阿里大於短