原创 Flink的classLoader加載機制(推測)-- 記一次程序問題中的探索

    項目中需要用flink去加載c++的so文件。flink任務中如果有加載so的邏輯,當任務掛掉之後,再次重啓的時候會報“Native Library xxx is being loaded in another classload

原创 jdk環境變量配置問題

    今天重新安裝jdk,在網上搜了個文章就照着配置起來,結果配置完了,java命令能用,javac不能用。     在網上查了好多資料,都說是classpath配置出錯了,然後,又找了別的資料配置了一下,還是同樣的出錯,奔淚!    

原创 Flink部署過程(standalone模式,備忘)

集羣架構   環境 機器環境 java8 SSH 各模塊版本 Flink: 1.8.x Hadoop:2.8.x Zookeeper:3.4.x 部署流程 Misc 操作賬號:user(教程中配置示例使用的是”root”) 操作

原创 flink slotSharingGroup 在本地調試的時候可能會導致程序卡住

現象就是一個加了slotSharingGroup的程序,在本地調試的時候可能數據流不流動,把slotSharingGroup去掉就可以了。 原因未知,hold。有路過了解的朋友可以給說一下,或者給個鏈接。

原创 NameNode HA的部署方法

在部署flink的時候,發現hdfs的namenode有可能會有單點故障問題,所以給它做一個HA的部署。 關注點: 1、NameNode HA模式下,active的NameNode掛掉之後,切換時間有多長? 答:根據測試來看,切換時間非常

原创 ArrayList源碼學習筆記(3)

經過前面的源碼閱讀,現在可以開始嘗試自己實現一個ArrayList了,並對比自己的實現方式與JDK的有什麼不同。 1、實現List接口 首先代碼實現List接口,這時候我才發現原來List接口裏有這麼多的方法需要實現…… 2、增加存儲數組

原创 flink的checkpoint機制

flink的checkpoint機制提供了容錯能力。那它是怎麼實現的呢? 看了《Flink原理、實戰預性能優化》,加上兩篇文章,大致理清了思路 兩篇文章鏈接: https://www.jianshu.com/p/9993f514ea0a

原创 互聯網限流方案

http://www.dczou.com/viemall/852.html

原创 leetcode-第一題兩數之和

初衷 先說一下初衷吧,這次找工作深深感受到不刷題的被動。即便你自己認爲自己的實力沒有問題,遇到問題花費一定時間也能解決,但是面試的時候就那麼幾道題,如果你慢慢想,時間根本來不及。我也在面試的時候自己做出了動態規劃的題,但是面對一些變種或者

原创 java內存分析工具-jmap/jstat/jvisual vm/mat -- 記一次Flink任務OOM問題的解決

背景:最近用到flink做項目,程序在線上遇到了內存持續增長最後導致OOM的問題;還有一種情況是內存增長過高,在觸發GC的時候產生超長停頓使taskmanager失去心跳而導致任務失敗。   OOM問題比較難查,幸虧有團隊的小夥伴一起幫着

原创 讀書-《軟技能2-軟件開發者職業生涯指南》

讀到了一章寫的很好,關於平衡工作和生活的。不想等讀完再寫文章了,直接趁着熱乎寫一下想法。而且作者也寫到“如果能從本書中拿走一條,就選擇這一章吧” 工作/生活的平衡是一個神話 當我們想這工作和生活平衡的時候,其實是把工作和生活進行了割裂。這

原创 zookeeper的選舉機制是如何應對腦裂的

本來想寫“zookeeper的選舉機制”,但是選舉機制的具體流程還沒研究,只是知道了選舉機制是如何避免腦裂的,就先寫個小部分,等後面擴展。   在網上看了好多文章,都在介紹zookeeper是怎麼解決腦裂的。感覺說的不清晰。 首先,zo

原创 ArrayList源碼學習筆記(2)

上一篇文章ArrayList源碼學習筆記(1)分析了ArrayList的構造函數和擴容過程,並用demo驗證了一下。 現在看到了add方法和remove方法。 add方法有兩個add(E e) 和 add(int index, E ele

原创 關於i++和++i (java)

記得之前上學的時候,老師講過i++和++i的區別是:i++後執行加法,++i是先執行加法。但是之前有一個疑問,如果這個命令放到一個表達式裏,所謂的i++的後執行是在表達式最後執行嗎?面試的時候也總會遇到一個問題:i=i++最後的結果是什麼

原创 java ThreadLocal簡介與原理

網上看到很多ThreadLocal的文章,感覺上來就開始講原理,根本不講這是個啥。當然可能他們都知道這是個什麼東西,用在什麼場景下,爲什麼需要它出現;而我不知道……   ThradLocal是什麼 還是借用別人的說法: (1)Thre