原创 ubuntu增加hosts

Ubuntu系統的Hosts只需修改/etc/hosts文件,在目錄中還有一個hosts.conf文件,剛開始還以爲只需要修改這個就可以了,結果發現是需要修改hosts。修改完之後要重啓網絡。具體過程如下:1、修改hostssudo ge

原创 vim7.0配置python自動補全

1, 下載pydiction-1.2.zip complete-dict  pydiction.py  python_pydiction.vim  README.txt python_pydiction.vim 放入~/.vim/aft

原创 資料集合

MRUnit測試: https://cwiki.apache.org/confluence/display/MRUNIT/MRUnit+Tutorial OFFICE2010激活碼: VYBBJ-TRJPB-QFQRF-QFT4D-H3

原创 可讀的JVM GC時間戳

當我們診斷Java應用程序的問題時,能夠查到垃圾回收的狀況是非常有幫助的。一個基本的最基礎的方法是開啓垃圾回收日誌。 也許你已經知道了,如果我們把下面的參數加到java啓動命令行中, -Xloggc:<file_name> –XX:

原创 JVM調優小結

堆大小設置JVM 中最大堆大小有三方面限制:相關操作系統的數據模型(32-bt還是64-bit)限制;系統的可用虛擬內存限制;系統的可用物理內存限制。32位系統下,一般限制在1.5G~2G;64爲操作系統對內存無限制。我在Windows

原创 對Hadoop源代碼中Child類的調試方法

網上有很多關於Hadoop源代碼遠程調試的文章,但是大多數是關於JobTracker,TaskTracker,NameNode,DataNode,SecondNameNode的。很少有介紹如何調試child類的。然而真正的Map任務和R

原创 基於hadoop集羣的hive 安裝(mysql,derby)

基於hadoop集羣的hive安裝步驟   ----嵌入式derby 模式 安裝環境 hadoop已經安裝結束, mysql已經安裝結束。 hive是安裝在集羣中的主節點上(hostname:node0) hadoop 版本號

原创 JobTracker dump內存記錄

1、dump命令行: jmap -dump:live,format=b,file=heap.bin 9359 2、dump時機:CMS GC結束後,這時heap最小,Full GC也最快 2012-05-02T22:08:11.

原创 JobTracker心跳優化

馬上要開始第二階段優化了,趕快把第一階段優化內容及結果貼下。 •背景 –繁忙時段98%~100%的handler線程被BLOCK –RPC請求堆積 •Profiling工具 (定位瓶頸) –jstack線上環境使用

原创 hadoop插件編譯

hadoop1.0.0及以上版本的eclipse插件編譯方法跟0.20.2不太一樣,今天探索了一下,故留此文紀念之。 注: HADOOP_HOME爲hadoop主目錄。 ECLIPSE_HOME爲eclipse安裝目錄。 1,進入HA

原创 HBase修改壓縮格式及Snappy壓縮實測分享

HBase修改壓縮格式及Snappy壓縮實測分享 一、要點 有關Snappy的相關介紹可參看Hadoop壓縮-SNAPPY算法,如果想安裝Snappy,可以參看Hadoop HBase 配置 安裝 Snappy 終極教程。 1. H

原创 eclipse創建hadoop源碼工程

hadoop1.0.0之後源碼編譯跟之前不太一樣,今天探索了一下,故寫此文章留做筆記。 此文內容是我剛剛做了一遍,所以如果版本和我一致,絕對好使。 先說版本: jdk1.7(1.6以上應該都可以) ant1.9(目前最新版本) ecli

原创 MySQL新建用戶,授權,刪除用戶,修改密碼

首先要聲明一下:一般情況下,修改MySQL密碼,授權,是需要有mysql裏的root權限的。注:本操作是在WIN命令提示符下,phpMyAdmin同樣適用。    用戶:phplamp  用戶數據庫:phplampDB 遠程連接mysq

原创 buffers/cache

這是我查到的,很好的解釋,供參考! 這也是讓我們更深入的理解此FREE命令,及linux內核處理內存的機制了: 我的linux執行free命令顯示如

原创 Xshell傳輸文件

用rz,sz命令在xshell傳輸文件 很好用,然後有時候想在windows和linux上傳或下載某個文件,其實有個很簡單的方法就是rz,sz 首先你的Ubuntu需要安裝rz.sz(如果沒有安裝請執行以下命令,安裝完的