linux(ubuntu)myeclipse+eclipse+hadoop系統搭建(二)

接下來是運行環境的重頭戲,比較繁瑣,需要仔細認真核對配置信息:

9. 配置hadoop

目標:在master上面安裝並配置hadoop,然後拷貝到slave上面,再進行配置

1) 下載並解壓文件至/opt文件夾下

安裝文件:hadoop-2.6.1.tar.gz
(演示一下ssh傳送命令)scp /home/hadoop/hadoop-2.6.1.tar.gz [email protected]:/opt
2) 配置各個文件參數(包含ip以及jdk路徑)
/opt/hadoop-2.6.1/etc/hadoop/core-site.xml 改ip
/opt/hadoop-2.6.1/etc/hadoop/slaves 其中填寫ip就可以
/opt/hadoop-2.6.1/etc/hadoop/hdfs-site.xml 改爲mster的ip
/opt/hadoop-2.6.1/etc/hadoop/yarn-site.xml  改爲mater的ip
/opt/hadoop-2.6.1/etc/hadoop/mapred-site.xml 改爲master的ip
/opt/hadoop-2.6.1/etc/hadoop/hadoop-env.sh 修改jdk的路徑以及 hadoop路徑等
/opt/hadoop-2.6.1/etc/hadoop/yarn-env.sh 修改jdk的路徑
3) 配置路徑/etc/profile

hadoop的路徑需要配置

source /etc/profile 實在不行重啓電腦
4) 在特定位置新建文件夾
home/hadoop建立兩個文件夾 hadooptmp以及tmp,其中hadooptmp中之後將會出現序列號等信息

5) 格式化hadoop系統

sudo chmod -R 755 bin

進入hadoop的bin目錄

hadoop namenode -format

[以上爲Master的hadoop環境配置好了,該配置slave的hadoop環境了,因此以下是在slave上操作的]

1) 將/opt/hadoop文件夾拷貝到slave上/opt中

2) 修改profile

3) 建立兩個文件夾hadooptmp tmp

4) 使slave中的序列號與master的相同

home/hadooptmp/dfs/name/current
修改:
#Sun Mar 06 20:40:04 CST 2016
namespaceID=1115887014   (把這個寫成和master對應位置一樣的)
clusterID=CID-813d5971-a742-4971-9a95-1b2b472f8ca3
cTime=0
storageType=NAME_NODE
blockpoolID=BP-513084621-101.5.213.74-1457268004407
layoutVersion=-60

10. 測試hadoop是否成功

1) 啓動hadoop
opt/hadoop-2.6.1/sbin/start-all.sh

注:可能遇到的問題:

啓動不了,報錯沒有權限,則在對應slave上運行:

sudo chmod -R 755 /opt (因爲剛剛測試運行hadoop說出啓動失敗了,因爲沒有對應的權限,或者777)

2) 觀察hadoop運行

在瀏覽器中輸入:

101.5.208.157:50070

後面爲自動打出:/dfshealth.html#tab-datanode

11. 配置hbase

目標:在master上面安裝並配置hbase,然後拷貝到slave上面,再進行配置

1) 下載並解壓文件在/opt中

安裝文件:hbase-0.94.26.tar.gz

2) 修改文件配置

/conf hbase-env.sh 修改爲jdk,hadoop,hbase路徑相關

hbase-site.xml regionservers 改爲對應的ip

3) 設置hbase的bin目錄權限

sudo chmod -R 755 bin

[以上爲master上進行的操作,同樣將文件夾拷貝至slave上,以下爲slave上的操作]

1) 修改配置文件profile

2) 修改bin配置權限

12. 啓動hbase

1) ./start-hbase.sh

2) 瀏覽器觀察ip:60010端口即可

13. 安裝mysql

14. Eclipse上安裝hadoop插件

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章