原创 hadoop集羣搭建--hadoop-2.8.5編譯

hadoop集羣搭建--hadoop-2.8.5編譯編譯基本過程軟件版本安裝軟件包:jdk安裝:maven安裝:ant安裝:安裝protobuf:解壓hadoop源碼文件:編譯打包hadoop 編譯基本過程 軟件版本 jdk:j

原创 hadoop集羣搭建--虛擬機centos7minimal版網絡配置

centos7minimal版本網絡配置網絡配置配置過程  遇到的問題 網絡配置 配置過程   在配置網絡的時候:先修改主機名:sudo vi /etc/hostname。 配置完後,cat,如下圖所示: 再配置:/etc/sy

原创 hadoop集羣搭建--虛擬機克隆、ssh免密登錄

虛擬克隆、shh免密登錄虛擬機克隆關閉防火牆修改網卡名稱修改hosts文件安裝jdk:克隆克隆虛擬機客戶端網絡配置問題-解決辦法ssh免密登錄 虛擬機克隆 在克隆之前,即將被克隆的虛擬機已經配置好網絡。如果還沒有,可以參考鄙人博文

原创 -bash: start-dfs.sh: command not found

啓動hdfs的時候報:-bash: start-dfs.sh: command not found 主要原因是start-dfs.sh的命令在hadoop安裝目錄的sbin目錄下,如果在etc/profile裏面只配置了HADOOP_HO

原创 hadoop集羣搭建--完全分佈式搭建

hadoop完全分佈式集羣搭建前期準備安裝配置hadoop配置環境變量配置hadoop的配置文件四個核心配置文件之——core-site.xml四個核心配置文件之——hdfs-site.xml四個核心配置文件之——mapred-s

原创 hadoop集羣啓動的時候,從機的DataNode沒有啓動的原因及解決

原因: 由於過多在namenode機器上執行hdfs namenode -format命令,導致DataNode機器上data文件夾下的數據與namenode機器上name文件夾下的數據沒有匹配上,這樣就無法啓動DataNode上