Hadoop僞分佈集羣部署
本手冊安裝環境如下:
Linux:Centos6.8
JDK:jdk-8u191-linux-x64.tar.gz
Hadoop:hadoop-2.7.7.tar.gz
這三個環境直接去下載,或者用我已經下載好的
鏈接:https://pan.baidu.com/s/1aweIgiIDd4pigRBUxpdI1A
提取碼:zqyw
配置過程中要注意分清:root用戶 與 普通用戶fuhadoop
各類安裝包已提前放在/home/fuhadoop/bigdata/下.
僞分佈安裝
前期準備
1.1.1關閉防火牆
1、
切換到root用戶下,在終端輸入setup命令:
會出現下面圖中內容
選擇“Firewall configuration”選項,回車進入選項
如果該項前面有“*”標,則按一下空格鍵關閉防火牆,如下圖所示,然後光標移動選擇“OK”保存修改內容
1.1.2安裝JDK
root用戶下,將JDK文件解壓到/usr/java目錄下,沒有java文件夾自己創建
su
cd ~/bigdata
mkdir /usr/java
cp jdk-8u191-linux-x64.tar.gz/usr/java
cd /usr/java
tar -xvf jdk-8u191-linux-x64.tar.gz
mv jdk1.8.0_191/ jdk1.8
通用戶 fuhadoop ,使用vi配置環境變量
複製粘貼以下內容添加到到上面 vi打開的文件中:
export JAVA_HOME=/usr/java/jdk1.8/ #jdk1.8是解壓出來的目錄
export PATH=PATH
變成這樣:
按esc鍵 再按 :wq 保存退出
使改動生效:
測試配置:
出現這樣就完成JDK的安裝
1.2 Hadoop配置
下面所有的操作都使用普通用戶fuhaoop切換普通 用戶的命令是
1.2.1 Hadoop安裝包解壓
解壓hadoop安裝包到目錄:~/bigdata/
1.2.2 Hadoop文件配置
Hadoop 的配置文件位於 $HADOOP_HOME/etc/hadoop/ 中,修改4個配置文件
core-site.xml ,
hdfs-site.xml, mapred-site.xml和yarn-site.xml
core-site.xml配置如下
找到core-site.xml 文件的位置,右擊編輯(Open with gedit),如圖
他三個一樣
hdfs-site.xml配置如下:
mapred-site.xml配置如下
yarn-site.xml配置如下:
hadoop-env.sh配置如下
環境變量文件中,只需要配置 JDK 的路徑。
vi
~/bigdata/hadoop-2.7.7/etc/hadoop/hadoop-env.sh
在文件的靠前的部分找到下面的一行代碼:
export
JAVA_HOME=${JAVA_HOME}
將這行代碼修改爲下面的代碼:
export
JAVA_HOME=/usr/java/jdk1.8
然後保存文件。
2.3 配置環境變量
使用vi配置環境變量
vi ~/.bash_profile
複製粘貼以下內容添加到到上面
vi打開的文件中:
export
HADOOP_HOME=/home/fuhadoop/bigdata/hadoop-2.7.7
export
HADOOP_CONF_DIR=HADOOP_HOME/etc/hadoop
export
YARN_CONF_DIR=PATH:HADOOP_HOME/bin:$HADOOP_HOME/sbin
如圖:
使改動生效:
source ~/.bash_profile
2.4 NameNode格式化
hadoop
namenode -format
注:若有需要再次格式化,請將$HADOOP_HOME/logs文件夾裏面內容清空。以及hadoopdata文件夾裏面的內容清空。
2.5 計算pi值
先啓動Hadoop集羣
start-all.sh
查看配置是否正確:
如果沒有圖示六條數據,回去檢查一下配置路徑有沒有錯。
開始訪問網頁端:
1、localhost:50070
2、localhost:18088
3、使用hadoop-mapreduce-examples-2.7.7.jar計算圓周率(下面是一行代碼)
hadoop
jar ~/bigdata/hadoop-2.7.7/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.7.jar
pi 10 10
結果如圖:
4、嘗試使用put命令提交本地文件,通過cat命令查看該文件
結果如圖:
使用完請關閉集羣
stop-all.sh
僞分佈安裝完成