hadoop 配置中的坑

1. core-site.xml 中,有一个属性是 fs.default.name,而不是 dfs.default.name



2. hdfs-site.xml 中,配置dfs.name.dir 和 dfs.data.dir时,如果有多条路径,用逗号隔开后,不能再加空格,hadoop不会过滤空格的,如下图中/name1,后面不能再加空格 


3. 除了第一次启动之前, 不能随意format namenode。每次format namenode之后,都回在 namenode的 {hadoop_home_dir}/name1(2) /current/VERSION中生成新的namespaceID,而datanode的namespaceID却不会被修改,这样当再次启动hadoop时,datanode会因为何namenode的namespaceID不一致而无法启动,通常可以在datanode的log中找到这样的错误:"Incompatible namespaceIDs";主要有两种解决方案:

(1)删除所有的datanode上的hadoop相关文件,重新部署hadoop

(2)修改datanode的namespaceID,使得其id和namenode的一致,namespaceID保存在 {hadoop_home_dir}/data1(2)/current/VERSION中。

我觉得这两种方案都挺麻烦的,不知道有没有更简单的方法,如果没有的话,就不知道hadoop这样设计的意图是什么了?                 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章