Hadoop僞分佈安裝

Hadoop僞分佈集羣部署

本手冊安裝環境如下:
Linux:Centos6.8
JDK:jdk-8u191-linux-x64.tar.gz
Hadoop:hadoop-2.7.7.tar.gz
這三個環境直接去下載,或者用我已經下載好的
鏈接:https://pan.baidu.com/s/1aweIgiIDd4pigRBUxpdI1A
提取碼:zqyw

配置過程中要注意分清:root用戶 與 普通用戶fuhadoop
各類安裝包已提前放在/home/fuhadoop/bigdata/下.

僞分佈安裝

前期準備
1.1.1關閉防火牆
1、
切換到root用戶下,在終端輸入setup命令:

會出現下面圖中內容

在這裏插入圖片描述

選擇“Firewall configuration”選項,回車進入選項
如果該項前面有“*”標,則按一下空格鍵關閉防火牆,如下圖所示,然後光標移動選擇“OK”保存修改內容

在這裏插入圖片描述

1.1.2安裝JDK
root用戶下,將JDK文件解壓到/usr/java目錄下,沒有java文件夾自己創建

su

cd ~/bigdata

mkdir /usr/java

cp jdk-8u191-linux-x64.tar.gz/usr/java

cd /usr/java

tar -xvf jdk-8u191-linux-x64.tar.gz

mv jdk1.8.0_191/ jdk1.8

通用戶 fuhadoop ,使用vi配置環境變量
在這裏插入圖片描述

複製粘貼以下內容添加到到上面 vi打開的文件中:

export JAVA_HOME=/usr/java/jdk1.8/ #jdk1.8是解壓出來的目錄

export PATH=JAVAHOME/binJAVA_HOME/binPATH

變成這樣:

在這裏插入圖片描述

按esc鍵 再按 :wq 保存退出
使改動生效:
在這裏插入圖片描述

測試配置:

在這裏插入圖片描述

出現這樣就完成JDK的安裝

1.2 Hadoop配置
下面所有的操作都使用普通用戶fuhaoop切換普通 用戶的命令是
在這裏插入圖片描述

1.2.1 Hadoop安裝包解壓
解壓hadoop安裝包到目錄:~/bigdata/

在這裏插入圖片描述

1.2.2 Hadoop文件配置
Hadoop 的配置文件位於 $HADOOP_HOME/etc/hadoop/ 中,修改4個配置文件
core-site.xml ,
hdfs-site.xml, mapred-site.xml和yarn-site.xml
core-site.xml配置如下
找到core-site.xml 文件的位置,右擊編輯(Open with gedit),如圖

在這裏插入圖片描述
在這裏插入圖片描述

他三個一樣
hdfs-site.xml配置如下:

在這裏插入圖片描述

mapred-site.xml配置如下

在這裏插入圖片描述

yarn-site.xml配置如下:

在這裏插入圖片描述

hadoop-env.sh配置如下
環境變量文件中,只需要配置 JDK 的路徑。
vi
~/bigdata/hadoop-2.7.7/etc/hadoop/hadoop-env.sh
在文件的靠前的部分找到下面的一行代碼:
export
JAVA_HOME=${JAVA_HOME}
將這行代碼修改爲下面的代碼:
export
JAVA_HOME=/usr/java/jdk1.8
然後保存文件。

2.3 配置環境變量
使用vi配置環境變量
vi ~/.bash_profile
複製粘貼以下內容添加到到上面
vi打開的文件中:

export
HADOOP_HOME=/home/fuhadoop/bigdata/hadoop-2.7.7
export
HADOOP_CONF_DIR=HADOOPHOME/etc/hadoopexportHDFSCONFDIR=HADOOP_HOME/etc/hadoop export HDFS_CONF_DIR=HADOOP_HOME/etc/hadoop
export
YARN_CONF_DIR=HADOOPHOME/etc/hadoopexportPATH=HADOOP_HOME/etc/hadoop export PATH=PATH:JAVAHOME/bin:JAVA_HOME/bin:HADOOP_HOME/bin:$HADOOP_HOME/sbin

如圖:

在這裏插入圖片描述

使改動生效:
source ~/.bash_profile

2.4 NameNode格式化
hadoop
namenode -format

注:若有需要再次格式化,請將$HADOOP_HOME/logs文件夾裏面內容清空。以及hadoopdata文件夾裏面的內容清空。

2.5 計算pi值
先啓動Hadoop集羣
start-all.sh
在這裏插入圖片描述

查看配置是否正確:
在這裏插入圖片描述

如果沒有圖示六條數據,回去檢查一下配置路徑有沒有錯。

開始訪問網頁端:
1、localhost:50070

在這裏插入圖片描述

2、localhost:18088
在這裏插入圖片描述

3、使用hadoop-mapreduce-examples-2.7.7.jar計算圓周率(下面是一行代碼)
hadoop
jar ~/bigdata/hadoop-2.7.7/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.7.jar
pi 10 10

結果如圖:
在這裏插入圖片描述

4、嘗試使用put命令提交本地文件,通過cat命令查看該文件
結果如圖:
在這裏插入圖片描述

使用完請關閉集羣
stop-all.sh

僞分佈安裝完成

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章