Hadoop的安裝及配置

1、Hadoop安裝前準備工作：
在開始Hadoop安裝與配置之前，需要準備的環境：Linux系統、配置JDK環境變量。

2、安裝
我們可以到Apache Hadoop的官網http://hadoop.apache.org/進行下載相應的安裝文件！

下載後，使用 : tar -zxvf tar包名，解壓到指定位置！

3、Hadoop配置文件的修改
Hadoop主要修改的配置文件爲5處：

• hadoop-env.sh
• core-site.xml
• hdfs-site.xml
• mapred-site.xml
• yarn-site.xml

3.1、hadoop-env.sh
在對應的位置找到以下兩行配置，並修改爲本機中的路徑。

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_231.jdk/Contents/Home
export HADOOP_CONF_DIR=/Users/marron27/TOOLS/hadoop-2.10.0/etc/hadoop

3.2、core-site.xml

<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<!--自己創建的，指定hadoop運行時產生文件的存放目錄-->
<name>hadoop.tmp.dir</name>
<value>/Users/marron27/TOOLS/hadoop-2.10.0/tmp</value>
</property>
</configuration>

3.3、hdfs-site.xml

<configuration>

<property>
<!--指定hdfs保存數據副本的數量，包括自己，默認爲3-->
<!--僞分佈式模式，此值必須爲1-->
<name>dfs.replication</name>
<value>1</value>
</property>

<!--不是root用戶也可以寫文件到hdfs-->
<property>
<name>dfs.permissions</name>
<value>false</value>    <!--關閉防火牆-->
</property>

</configuration>

3.4、mapred-site.xml

<configuration>
<property>
<!--指定mapreduce運行在yarn上-->
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

3.5、yarn-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
<property>
<!--NodeManager獲取數據的方式-->
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>

</configuration>

4、配置Hadoop環境變量

1. 在 .bash_profile 文件中配置Hadoop環境變量,使用vim打開該文件，進入編輯模式 vim ~/.bash_profile

2. 在該文件中添加Hadoop的安裝路徑
   
   添加完成後保存退出。

3. 使用source命令使該文件中的修改立即生效source ~/.bash_profile

4. 到此所有的配置已經完成，接下來執行該命令格式化namenode: hadoop namenode -format。

5. 格式化成功之後，即可啓動Hadoop，在Hadoop安裝目錄下有個/sbin目錄，目錄下有個start-all.sh,執行該文件./start-all.sh

5、測試
此時執行以下命令查看安裝是否成功

hadoop fs -mkdir /testdata     在hdfs根目錄下創建一個文件夾 testdata
hadoop fs -ls /