hadoop增加刪除節點

Hadoop添加刪除節點

添加節點

1.修改host 
  和普通的datanode一樣。添加namenode的ip 

2.修改namenode的配置文件conf/slaves 
  添加新增節點的ip或host 

3.在新節點的機器上，啓動服務 

[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start datanode
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start tasktracker  

 

4.均衡block 

[root@slave-004 hadoop]# ./bin/start-balancer.sh

1）如果不balance，那麼cluster會把新的數據都存放在新的node上，這樣會降低mapred的工作效率 
2）設置平衡閾值，默認是10%，值越低各節點越平衡，但消耗時間也更長 

[root@slave-004 hadoop]# ./bin/start-balancer.sh -threshold 5

3）設置balance的帶寬，默認只有1M/s

1 <property>
2 　　<name>dfs.balance.bandwidthPerSec</name>  
3 　　<value>1048576</value>  
4 　　<description>  
5 　　　　Specifies the maximum amount of bandwidth that each datanode   
6 　　　　can utilize for the balancing purpose in term of   
7 　　　　the number of bytes per second.   
8 　　</description> 
9 </property>

 

注意： 
1. 必須確保slave的firewall已關閉; 
2. 確保新的slave的ip已經添加到master及其他slaves的/etc/hosts中，反之也要將master及其他slave的ip添加到新的slave的/etc/hosts中

刪除節點

1.集羣配置 
   修改conf/hdfs-site.xml文件

1 <property>  
2 　　<name>dfs.hosts.exclude</name>  
3 　　<value>/data/soft/hadoop/conf/excludes</value>  
4 　　<description>Names a file that contains a list of hosts that are   
5 　　not permitted to connect to the namenode.  The full pathname of the   
6 　　file must be specified.  If the value is empty, no hosts are   
7 　　excluded.</description>
8 </property>

 

2確定要下架的機器 
dfs.hosts.exclude定義的文件內容爲,每個需要下線的機器，一行一個。這個將阻止他們去連接Namenode。如： 

slave-003  
slave-004  

 

3.強制重新加載配置 

[root@master hadoop]# ./bin/hadoop dfsadmin  -refreshNodes  

它會在後臺進行Block塊的移動 

4.關閉節點 
等待剛剛的操作結束後，需要下架的機器就可以安全的關閉了。 

[root@master hadoop]# ./bin/ hadoop dfsadmin -report  

可以查看到現在集羣上連接的節點 
 

正在執行Decommission，會顯示： 
Decommission Status : Decommission in progress  

執行完畢後，會顯示： 
Decommission Status : Decommissioned  

 

5.再次編輯excludes文件 
一旦完成了機器下架，它們就可以從excludes文件移除了 
登錄要下架的機器，會發現DataNode進程沒有了，但是TaskTracker依然存在，需要手工處理一下