原创 從零開始學習HDFS--搭建HDFS的eclipse工程

新版本的HDFS代碼需要用到maven,要集成此工具到eclipse,找了好多資料,才搞定。 具體可以參考這個: http://www.huqiwen.com/2012/04/26/eclipse-install-maven-plugin

原创 從零開始學習HDFS-初步計劃

Namenode initialization flow NameNode的初始化流程,分析啓動過程中涉及的主要類結構 fsimage的加載過程 加載本地fsimage的過程 fsimage存儲的格式 editlog的加載過程 本地和Bk

原创 健身筆記(六)---健身四個月後總結

首先要感謝自己,能堅持這麼久,多少有些出乎意外。主要是因爲心中揣着一個夢想,那就是恢復健康,夢想着身體機能最少要恢復到25歲的水準,正因爲夢想的驅動,從不敢放棄。同時也驚喜的看到,這幾個月的辛苦付出得到了對應的回報。 當然,作爲一位新手,

原创 讀書筆記(四)---讀《說文解字》的快樂點滴

想讀這本書的緣由在於,我經常背英語單詞;爲了更牢靠的記住英語單詞,使用了某些例如按詞根記住單詞的技巧,突然想到自己對漢字也有很多是不認識的,學習一門外語花了這麼大力氣,爲何學習母語反而不下工夫呢?於是決定多花些心思在母語的學習上。 那麼,

原创 安全認證(一)--- 概貌

安全特性一般包括加密、認證和鑑權。 hadoop的安全認證過程很複雜,但玩大數據的人,總要知道一些基本概念、業務框架和大致業務過程。 我的博文是來自其他高手總結,加上一些書籍摘要和個人理解,彙總而成,不爲其他,只爲方便自己查閱。若有寫得不

原创 計算機網絡系統學習--說說物理層

最近在學習王達寫的《深入理解計算機網絡》,下面基本是看這本書的學習筆記。 物理層並不是特指某種傳輸介質,而是指通過傳輸介質,以及相關的通信協議、標準建立起來的物理路線。 “物理層”的主要任務是定義和傳輸介質、連接器及其接口相關的機械特性、

原创 讀書筆記(二)--- 程序是怎樣跑起來的

書籍信息: 書名:程序是怎樣跑起來的 作者:矢澤久雄 李逢俊 譯 內容: 這本書是在深圳書城溜達時遇到的,粗略一翻,確實很對胃口,所以立馬從噹噹網購買了一本,別怪我太吝嗇,養家壓力太大,呵呵。 這本書很詳細的介紹了計算機的原理,並介紹一

原创 關於RPC的一些總結

 關於RPC的思考: 1.RPC是一種跨進程(網絡)交互的思想; 2.爲了方便大家使用RPC,出現了很多RPC框架,例如Protol Buffer、AVRO和Thrift等,它們具有各自的語法(IDL)和將用戶使用它們語法描述生成的業

原创 DNS服務的學習

對於DNS,之前接觸不多,最近剛好遇到一個簡單的任務,涉及到DNS服務。 上網查了一把,發現有不少好資料,現整理如下,方便以後查閱: 比較全面的資料: http://www.2cto.com/os/201108/102155.html 鳥

原创 如何用IDE調試MR任務(二)(2016-01)

6.YARN和MR串起來,是由Job ID來串聯,前半部分不一樣,但後半部分的數字編碼是一樣的;例如在MR上是“job_1456566866500_0007”,在YARN上是“application_1456566866500_0007”

原创 管理雜談(二)--再談心態

總體而言,多年的習慣還是讓自己性格變得比較內向,不喜歡高談闊論,不喜歡在陌生人面前發言,例如組織會議,給其他同事培訓,走向客戶面交流信息,凡此種種,這些都是比較排斥,很不喜歡的痛苦事物。 但作爲版本管理這些又是職責所在,不可避免,甚至是常

原创 交換機和路由器的關係

很好的參考資料,有空要理下: http://zhidao.baidu.com/link?url=bphE73cnsjiBlFHMWHLct-lcAzJSfnWtn735UU6_uV_6VvZpGe1t7VZp1VW7moIn7kBWKFf

原创 socket的總結(2016-02)

 socket是一個基礎內容,包括hadoop裏面的RPC等,都會用到它,所以簡單學習了一下,如下是一個總結。 socket的理解: 1.socket 這個概念沒有對應一個具體的實體,它描述計算機之間完成相互通信的一種抽象功能; 2.

原创 關於密碼方面的一些總結

最近在學習時,遇到一本密碼方面的科普讀物《現代密碼學趣味之旅》,內容講解很通熟易懂。下面是簡單的讀書筆記,有些內容仍然比較深,單靠短期閱讀就能完全理解有點託大,待後續再深入理解。 【對稱密碼學】 從傳統密碼學觸發,人們逐步深入對稱密碼學(

原创 管理雜談(三)--必須的思想

1.管理是長久的事情,所以一定要和周邊建立良好關係;不能浮躁,不要亂發脾氣,沉穩纔是管理者必須的素質; 2.管理的首要職責是梳理,將混沌轉變爲有序; 3.不要懼怕問題,管理就是來解決問題的,要相信辦法總比問題多; 4.遇事情必須有自己的判