Hadoop2.7+Centos7僞分佈式環境步驟記錄

思路：準備主從服務器，配置主服務器可以無密碼SSH登錄從服務器，解壓安裝JDK，解壓安裝Hadoop，配置hdfs、mapreduce等主從關係。

第一步 安裝虛擬機與Linux系統
(1) 下載
centos7
VMWare12
(2) 安裝centos7完整版

第二步 安裝JDK

注意下載jdk7與系統匹配，這裏使用的是jdk7 64位，下載Hadoop2.7.1 官網是64位
(1)下載“jdk-7u79-linux-x64.gz”，放到/usr/local/soft目錄下（新建soft用於存放後續上載軟件）
(2)解壓，輸入命令，tar -zxvf jdk-7u79-linux-x64.gz
移動文件至/usr/local/jdk目錄下
mv 源文件 目標文件
(3)設置環境變量： 編輯/etc/profile

export JAVA_HOME=/home/java/jdk1.7.0_79
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin 

(4)使配置生效，輸入命令，source /etc/profile
(5)輸入命令，java -version 檢查配置是否生效

免密鑰登錄！！
SSH免密碼登錄，因爲Hadoop需要通過SSH登錄到各個節點進行操作，我用的是root用戶，每臺服務器都生成公鑰，再合併到authorized_keys
(1)CentOS默認沒有啓動ssh無密登錄，去掉/etc/ssh/sshd_config其中2行的註釋，每臺服務器都要設置，
RSAAuthentication yes
PubkeyAuthentication yes
(2)輸入命令，ssh-keygen -t rsa，生成key，都不輸入密碼，一直回車，/root就會生成.ssh文件夾，每臺服務器都要設置，
(3)合併公鑰到authorized_keys文件，在Master服務器，進入/root/.ssh目錄，通過SSH命令合併，
cat id_rsa.pub > authorized_keys 將密鑰寫入至authorized_keys文件中
再將authorized_keys 文件複製至下一個機器的.ssh路徑下繼續合併公鑰id_rsa.pub
cat id_rsa.pub>> authorized_keys，循環將所有機器合併完成後，將最終的authorized_keys文件複製到每臺機器上。over
(5)完成，ssh [email protected]、ssh [email protected]就不需要輸入密碼了

第三步 安裝Hadoop

1)解壓 hadoop安裝包 至/usr/local/hadoop
2)在hadoop下創建 文件夾 tmp hdfs dfs/data、dfs/name
3)修改配置文件如下：
配置/usr/local/hadoop/etc/hadoop目錄下的core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://192.168.100.10:9000</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
    </property>
    <property>
        <name>io.file.buffer.size</name>
        <value>131702</value>
    </property>
</configuration>

配置/usr/local/hadoop/etc/hadoop目錄下的hdfs-site.xml

<configuration>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/usr/local/hadoop/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/usr/local/hadoop/dfs/data</value>
    </property>
    <property>
        <name>dfs.replication</name>
        <value>2</value>
    </property>
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>192.168.100.10:9001</value>
    </property>
    <property>
    <name>dfs.webhdfs.enabled</name>
    <value>true</value>
    </property>
</configuration>

配置/usr/local/hadoop/etc/hadoop目錄下的mapred-site.xml
將mapred-site.xml.template重命名爲mapred-site.xml

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
    <property>
        <name>mapreduce.jobhistory.address</name>
        <value>192.168.100.10:10020</value>
    </property>
    <property>
        <name>mapreduce.jobhistory.webapp.address</name>
        <value>192.168.100.10:19888</value>
    </property>
</configuration>

配置/usr/local/hadoop/etc/hadoop目錄下的yarn-site.xml

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
    <property>
        <name>yarn.resourcemanager.address</name>
        <value>192.168.100.10:8032</value>
    </property>
    <property>
        <name>yarn.resourcemanager.scheduler.address</name>
        <value>192.168.100.10:8030</value>
    </property>
    <property>
        <name>yarn.resourcemanager.resource-tracker.address</name>
        <value>192.168.100.10:8031</value>
    </property>
    <property>
        <name>yarn.resourcemanager.admin.address</name>
        <value>192.168.100.10:8033</value>
    </property>
    <property>
        <name>yarn.resourcemanager.webapp.address</name>
        <value>192.168.100.10:8088</value>
    </property>
    <property>
        <name>yarn.nodemanager.resource.memory-mb</name>
        <value>768</value>
    </property>
</configuration>

配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下hadoop-env.sh、yarn-env.sh的JAVA_HOME

export JAVA_HOME=/usr/local/jdk

第五步 配置/usr/local/hadoop/etc/hadoop目錄下的slaves

刪除默認的localhost，增加2個從節點，
192.168.100.11
192.168.100.12

第六步：將配置好的Hadoop複製到各個節點對應位置上，通過scp傳送

scp -r /home/hadoop 192.168.0.183:/home/
scp -r /home/hadoop 192.168.0.184:/home/

第七步 在Master服務器啓動hadoop

進入/usr/local/hadoop目錄
(1)初始化，輸入命令，bin/hdfs namenode -format !!!
(2)全部啓動sbin/start-all.sh，也可以分開sbin/start-dfs.sh、sbin/start-yarn.sh
(3)停止的話，輸入命令，sbin/stop-all.sh
(4)輸入命令，jps，可以看到相關信息

第八步 Web訪問，直接關閉防火牆 否則無法訪問

centos7 關閉firewall：

systemctl stop firewalld.service #停止firewall
systemctl disable firewalld.service #禁止firewall開機啓動
firewall-cmd --state #查看默認防火牆狀態（關閉後顯示notrunning，開啓後顯示running）

centos6 關閉firewall：

 關閉防火牆
    執行命令    service iptables stop
    驗證:        service iptables status
  關閉防火牆的自動運行
    執行命令    chkconfig iptables off
    驗證:        chkconfig --list | grep iptables

瀏覽器打開http://192.168.100.10:50070/

安裝完成。這只是大數據應用的開始，之後的工作就是，結合自己的情況，編寫程序調用Hadoop的接口，發揮hdfs、mapreduce的作用。