接下來是運行環境的重頭戲,比較繁瑣,需要仔細認真核對配置信息:
9. 配置hadoop
目標:在master上面安裝並配置hadoop,然後拷貝到slave上面,再進行配置
1) 下載並解壓文件至/opt文件夾下
安裝文件:hadoop-2.6.1.tar.gz
(演示一下ssh傳送命令)scp /home/hadoop/hadoop-2.6.1.tar.gz [email protected]:/opt
2) 配置各個文件參數(包含ip以及jdk路徑)
/opt/hadoop-2.6.1/etc/hadoop/core-site.xml 改ip
/opt/hadoop-2.6.1/etc/hadoop/slaves 其中填寫ip就可以
/opt/hadoop-2.6.1/etc/hadoop/hdfs-site.xml 改爲mster的ip
/opt/hadoop-2.6.1/etc/hadoop/yarn-site.xml 改爲mater的ip
/opt/hadoop-2.6.1/etc/hadoop/mapred-site.xml 改爲master的ip
/opt/hadoop-2.6.1/etc/hadoop/hadoop-env.sh 修改jdk的路徑以及 hadoop路徑等
/opt/hadoop-2.6.1/etc/hadoop/yarn-env.sh 修改jdk的路徑
3) 配置路徑/etc/profile
hadoop的路徑需要配置
source /etc/profile 實在不行重啓電腦 4) 在特定位置新建文件夾 home/hadoop建立兩個文件夾 hadooptmp以及tmp,其中hadooptmp中之後將會出現序列號等信息
5) 格式化hadoop系統
sudo chmod -R 755 bin
進入hadoop的bin目錄hadoop namenode -format
[以上爲Master的hadoop環境配置好了,該配置slave的hadoop環境了,因此以下是在slave上操作的]
1) 將/opt/hadoop文件夾拷貝到slave上/opt中
2) 修改profile
3) 建立兩個文件夾hadooptmp tmp
4) 使slave中的序列號與master的相同
修改:
#Sun Mar 06 20:40:04 CST 2016
namespaceID=1115887014 (把這個寫成和master對應位置一樣的)
clusterID=CID-813d5971-a742-4971-9a95-1b2b472f8ca3
cTime=0
storageType=NAME_NODE
blockpoolID=BP-513084621-101.5.213.74-1457268004407
layoutVersion=-60
10. 測試hadoop是否成功
opt/hadoop-2.6.1/sbin/start-all.sh
注:可能遇到的問題:
啓動不了,報錯沒有權限,則在對應slave上運行:
sudo chmod -R 755 /opt (因爲剛剛測試運行hadoop說出啓動失敗了,因爲沒有對應的權限,或者777)
2) 觀察hadoop運行在瀏覽器中輸入:
101.5.208.157:50070
後面爲自動打出:/dfshealth.html#tab-datanode11. 配置hbase
目標:在master上面安裝並配置hbase,然後拷貝到slave上面,再進行配置
1) 下載並解壓文件在/opt中
安裝文件:hbase-0.94.26.tar.gz
2) 修改文件配置
/conf hbase-env.sh 修改爲jdk,hadoop,hbase路徑相關
hbase-site.xml regionservers 改爲對應的ip
3) 設置hbase的bin目錄權限
sudo chmod -R 755 bin
[以上爲master上進行的操作,同樣將文件夾拷貝至slave上,以下爲slave上的操作]
1) 修改配置文件profile
2) 修改bin配置權限
12. 啓動hbase
1) ./start-hbase.sh
2) 瀏覽器觀察ip:60010端口即可
13. 安裝mysql
14. Eclipse上安裝hadoop插件