原创 Linux簡單抓包命令

linux抓包命令: 抓取從192.168.2.12 and 172.16.0.66 兩臺機器上發送到本機上的包,並放在當前目錄下的 tcpdump.dump.wbb1 二進制文件裏: tcpdump host 192.168.2.

原创 hadoop 2.4.1日誌聚合設置,並設置自動回收時間

1.hadoop 日誌默認生產路徑是各個datanode節點上 hadoop環境變量對應的logs文件夾下面: 設置完日誌聚合之後生成的路徑: 但是怎麼樣設置日誌聚合呢? <property> <n

原创 Linux find 方法高級使用

功能:在目錄結構中搜索文件,並執行指定的操作。此命令提供了相當多的查找條件,功能很強大。 語法:find 起始目錄 尋找條件 操作 說明:find命令從指定的起始目錄開始,遞歸地搜索其各個子目錄,查找滿足尋找條件的文件並對之採取相關的

原创 修改linux文件最大進程數和文件打開數

如何修改linux文件最大進程數和文件打開數: 使用ulimit -a 查看當前用戶最大: 默認是max user processes 和 open files 是1024如果是非root用戶。 使用  sudo vi /etc/s

原创 hadoop java.io.IOException: Cannot run program "nice"

1.使用非root用戶啓動hadoop集羣,然後跑job,job中有幾千個文件執行mapreduce的時候總是出現以下錯誤: java.io.IOException: Cannot run program "nice" (in dire

原创 ssh 無密碼登錄出錯問題

[test@ceshiserver234 .ssh]$ssh -v localhost OpenSSH_5.3p1, OpenSSL 1.0.1e-

原创 xxx is not in the sudoers file. This incident will be reported

xxx is not in the sudoers file. This incident will be reported 解決辦法: $ su - $chmod u+w /etc/sudoers $gedit /etc/sudoe

原创 Python安裝

Python2.7.9下載鏈接 tar -xvf Python-2.7.9.tgz cd Python-2.7.9 檢查環境: ./configure --prefix=/usr/local/python2.7 make make

原创 Bad connect ack with firstBadLink 192.168.1.14:50010

hadoop 集羣一開始只有三個節點,有兩個節點一直往第三個幾點上同步數據,(因爲這兩個節點已經有負載了很多寫HDFS數據的應用程序)在往第三臺服務器上同步數據的時候總是出現 “Bad connect ack with firstBadL

原创 linux 磁盤掛載

目前我們所有新機器上都有16塊磁盤: 1.查看所有需要掛載的磁盤: # fdisk -l  WARNING: GPT (GUID Partition

原创 hadoop job執行出錯 org.apache.hadoop.mapred.YarnChild: Error running child : java.lang.NoSuchMethodErro

job 在執行的時候在reduce的時候出現了3次 FAILED 狀態,然後在其他幾點上重試能正常跑完。 錯誤內容如下: 2014-12-04 15:38:38,564 FATAL [main] org.apache.hadoop.map

原创 Linux系統下安裝rz/sz命令及使用說明

轉載地址: 點擊打開鏈接  對於經常使用Linux系統的人員來說,少不了將本地的文件上傳到服務器或者從服務器上下載文件到本地,rz / sz命令很方便的幫我們實現了這個功能,但是很多Linux系統初始並沒有這兩個命令。今天,我們就簡單的講

原创 使用ssh 無密碼登錄的時候總是出錯

[test@ceshiserver234 .ssh]$ssh -v localhost OpenSSH_5.3p1, OpenSSL 1.0.1e-fips 11 Feb 2013 debug1: Reading configurati

原创 ooziedb 初始化的時候需要執行以下語句

oozied 初始化的時候需要執行:ooziedb.sh create -sqlfile oozie.sql -run 如果遇到:org.apache.oozie.service.AuthorizationException: E05

原创 解決Maven工程中報 Missing artifact jdk.tools:jdk.tools

方案一: jdk.tools:jdk.tools是與JDK一起分發的一個JAR文件,可以如下方式加入到Maven項目中:<dependency>    <groupId>jdk.tools</groupId>    <artifac