CDH 鏡像地址 apach官方鏡像地址 按需選擇下載安裝
最近由於項目需要開始接觸hadoop,在配置僞分佈式啓動後,jps查詢進程發現少了namenode,而DataNode卻存在。
配置內容及流程如下:
Configuration
Use the following:
0:安裝jdk並配置hadoop-env.sh的JAVA_HOME
必須在hadoop-env.sh文件中設置Java的絕對路徑
1: etc/hadoop/core-site.xml:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://alex-prod-01.com:9000</value>
</property>
#hadoop存放臨時文件
<property>
<name>hadoop.tmp.dir</name>
<value>/alex/data/bigdata/hadoop/hadoop-2.6.0-cdh5.9.3/tmp</value>
</property>
</configuration>
2:etc/hadoop/hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.permissions.enabled</name>
<value>false</value>
</property>
</configuration>
bin/hadoop namenode -format
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start datanode
#查看namenode datanode 啓動日誌
/alex/data/bigdata/hadoop/hadoop-2.6.0-cdh5.9.3/logs
ps: alex-prod-01.com
/etc/hosts 127.0.0.1 alex-prod-01.com
1:參考文章:https://www.cnblogs.com/lishpei/p/6136043.html
2:https://blog.csdn.net/shizhixin/article/details/50469566
3:https://www.cnblogs.com/zlslch/p/6604189.html
首先google了一下,網上看了幾個方法沒有解決。
乾脆看啓動日誌,我們從啓動腳本打印的日誌可知啓動NameNode的日誌是放在hadoop下的logs目錄下,進入這個目錄可發現有一個hadoop-namenode.log(名字貌似根據用戶名而定:格式如×××namenode×××.log),打開這個日誌文件發現有這麼一段:
netstat -ntlp 查看端口不是佔用問題;是有序漏掉了流程的0步;del tmp文件夾;重新啓動;效果如下
ps: 切記安裝流程3中hdfs-default.xml配置權限問題的說明路徑: url;否則root用戶不能啓動問題,默認true權限;根據自己需要修改