原创 關於異常

   雖然這次的主題是異常,但是說的更確切點應該叫程序是如何運行的。   編程語言是在計算機的內存中運行起來的,然而運行的時候,無論是基於jvm的java、scala之類的語言,還是像C/C++這樣直接跟操作系統打交道的語言,都會將得到的內

原创 自我介紹

   本人武漢大學16屆本科畢業生,憤青一枚,對身邊很多事都看不慣,但知道自己也不能做出什麼改變,於是索性靜下心來研究技術。   在本科前兩年敲過很多C、C++、java、shell等語言的代碼,後來由於巧合開始研究數據庫,並已經獲取OCP

原创 NameNode對數據塊的管理

關於塊跟副本          hadoop中塊是一種邏輯概念而副本纔是真正的物理概念,即在DataNode中存儲的數據塊是以一個叫做的Replica來表示的,而在NameNode中則是以Block來表示。BlockInfo是Block的子

原创 iptables 網絡管理器

   前些日子,組長要我實現一個功能,將告警郵件中的不能訪問的生產機器ip+端口轉化爲辦公環境可以訪問的域名(已經通過端口映射配置)。報警程序是用go語言編寫的,如果直接將go語言配置文件中的ip+端口變成域名的話,程序就不能正常運行了,可

原创 hadoop RPC從入門到暫時放棄

        最近一直都在看徐鵬寫的《hadoop 2.X HDFS源碼剖析》的第二章關於RPC的部分,表示java這塊的編程功底差的實在是太多了,動態代理勉強還算明白,proto buffer、nio還有java的annotation差

原创 自我介紹

   本人武漢大學16屆本科畢業生,憤青一枚,對身邊很多事都看不慣,但知道自己也不能做出什麼改變,於是索性靜下心來研究技術。   在本科前兩年敲過很多C、C++、java、shell等語言的代碼,後來由於巧合開始研究數據庫,並已經獲取OCP

原创 數據庫中的索引

  很多朋友在操作數據庫的時候經常會用到索引,通過索引獲取數據的確可以讓這個sql語句運行的更快,但是很多人並不知道爲什麼使用索引會變快,更不用說索引的一些弊端了,今天主要介紹一下索引。索引結構:  首先聲明,索引有很多種,B樹索引、has

原创 yarn的資源隔離

   最近一週幾乎都在做關於yarn的資源隔離的事情,也重新看了一下以前看過的關於yarn的書,這次就當是寫寫自己的工作總結吧。   之所以要做資源隔離,是因爲現在公司內部有很多團隊都在使用yarn來提交各式各樣的任務,例如hive的map

原创 再看hadoop RPC

再看hadoop PRC以前寫過一篇文章叫做《hadoop RPC從入門到暫時放棄》,現在粗略的把《Hadoop 2.xHDFS源碼剖析》看完了第一遍,感覺對HDFS的整體瞭解上升了一個層次,並且重新看了一下動態代理、protocol bu

原创 Innodb中的鎖

Innodb中的鎖  雖然比較擅長的是Oracle,但是公司使用的是MySQL數據庫,所以不得不對MySQL數據庫多研究一下。今天就談一下MySQL中的鎖。  談鎖之前,要明白爲什麼會有鎖這種東西。之所以有鎖,大部分情況下是爲了實現事務(t

原创 NameNode對命名空間的管理

最近繼續在看《Hadoop 2.X HDFS源碼剖析》,現在看到了第三章NameNode部分。NameNode在hdfs這種文件系統中充當着master的角色,負責的功能有很多比如文件系統目錄管理(命名空間管理)、數據塊管理、數據節點管理、

原创 hbase中的位圖索引--布隆過濾器

   在hbase中,讀業務是非常頻繁的。很多操作都是客戶端根據meta表定位到具體的regionserver然後再查詢region中的具體的數據。   但是現在問題來了,一個region由一個memstore以及多個filestore組成

原创 關於異常

   雖然這次的主題是異常,但是說的更確切點應該叫程序是如何運行的。   編程語言是在計算機的內存中運行起來的,然而運行的時候,無論是基於jvm的java、scala之類的語言,還是像C/C++這樣直接跟操作系統打交道的語言,都會將得到的內