HA配置：

配置NameNode邏輯到物理的映射關係
配置JN結點的通信方式
Ssh

手動HA基本上配置完了

部署手動HA

必須先啓動journalNode，此時集羣還沒有格式化，沒格式化之前不能用start-dfs.sh來啓動所有角色，會報錯。必須格式化完成後才能使用啓動腳本。但是在HA中格式化之前要先啓動journalNode，因爲在格式化的時候最重要是生成一個集羣的ID（ClusterID），格式化命令執行的時候在NameNode結點上有一個verson，在journalNode中也有一個version。有兩臺NameNode，在一臺NameNode格式化完後，另一臺怎麼辦？是否也需要格式化呢？

很顯然，另一臺NameNode肯定也是需要格式化的，但是如果執行格式化命令就會產生一個新的clusterID。首先啓動journalNode集羣，然後再第一臺NameNode上執行格式化，然後啓動這個NameNode，在第二臺沒有啓動NameNode的執行hdfs namenode -bootstrapStandby,第二臺會和第一臺進行socket鏈接，從第一臺中同步到格式化的文件。這時纔可以start-dfs。這時是手動啓動。此時只會啓動兩個NameNode，DataNode，兩個JournalNode。ZK和ZKFC屬於自動化模塊，並未被啓動。

JouralNode只有在第一次格式化集羣的時候需要手動啓動，後面停了服務再次啓動時無需單獨啓動journalNode，只需要start-dfs ，自動就會啓動這些角色。

部署自動HA

5.1，配置開啓自動HA

5.2，配置ZKFC和ZK的聯繫

ZKFC沒有配置在哪裏啓動，原因是ZKFC默認在NameNode同結點啓動的。

操作系統的配置：

配置兩臺NameNode彼此之間免祕鑰和對自己免祕鑰。

Node01已經可以對自己和其它三個結點免祕鑰了。

在Node02上

配置Node02對自己免祕鑰

[root@node02 .ssh]# ssh-keygen -t dsa -P '' -f ./id_dsa      // 生成公鑰密鑰
[root@node02 .ssh]# cat id_dsa.pub >> authorized_keys     // 將node02公鑰追加到自己的認證文件中

配置Node02對Node01免密鑰
[root@node02 .ssh]# scp id_dsa.pub node01:`pwd`/node02.pub   //將node02的公鑰同步到01上
[root@node01 .ssh]# cat node02.pub >> authorized_keys     //講node02公鑰追加到node01的認證文件中

安裝zookeeper

1，上傳zookeeper到其中一臺服務器
2，[root@node01 zookeeper-3.4.6]# tar -zxvf zookeeper-3.4.6.tar.gz  -C /opt/sxt/   解壓到opt/sxt目錄
3，配置zookeeper環境變量
export ZOOKEEPER_PREFIX=/opt/sxt/zookeeper-3.4.6
Export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_PREFIX/bin:$HADOOP_PREFIX/sbin:$ZOOKEEPER_PREFIX/bin
4，修改zookeeper的配置文件
[root@node02 conf]# cp zoo_sample.cfg  zoo.cfg    //程序是讀zoo.cfg這個名字配置文件的
修改配置文件中數據存儲的路徑：
# example sakes.
dataDir=/tmp/zookeeper
修改爲：dataDir=/var/sxt/hadoop/zk
在配置文件末尾加上：
#autopurge.purgeInterval=1
server.1=192.168.25.202:2888:3888
server.2=192.168.25.203:2888:3888
server.3=192.168.25.204:2888:3888

在/var/sxt/hadoop中創建zk目錄，並新建myid文件，裏面內容爲1

5，將zookeeper安裝目錄和/etc/profile文件中配置scp到node03和node04
在/var/sxt/hadoop中創建zk目錄，並新建myid文件，裏面內容分別爲2,3

配置hadoop集羣

1，修改hdfs-site.xml
HA中不需要SecondaryNameNode刪掉secondaryNameNode的配置
2，增加NameNode在哪的配置
<property>
  <name>dfs.nameservices</name>
  <value>mycluster</value>
</property>
<property>
  <name>dfs.ha.namenodes.mycluster</name>
  <value>nn1,nn2</value>
</property>
<property>
  <name>dfs.namenode.rpc-address.mycluster.nn1</name>
  <value>node01:8020</value>
</property>
<property>
  <name>dfs.namenode.rpc-address.mycluster.nn2</name>
  <value>node02:8020</value>
</property>
<property>
  <name>dfs.namenode.http-address.mycluster.nn1</name>
  <value>node01:50070</value>
</property>
<property>
  <name>dfs.namenode.http-address.mycluster.nn2</name>
  <value>node02:50070</value>
</property>

3，增加journalNode在哪的配置

<property>
  <name>dfs.namenode.shared.edits.dir</name>
  <value>qjournal://node01:8485;node02:8485;node03:8485/mycluster</value>
</property>

journalNode數據存儲的配置
<property>
  <name>dfs.journalnode.edits.dir</name>
  <value>/var/sxt/hadoop/ha/jn</value>
</property>


4，active和standby切換方式
<property>
  <name>dfs.client.failover.proxy.provider.mycluster</name>
  <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<property>
  <name>dfs.ha.fencing.methods</name>
  <value>sshfence</value>
</property>
<property>
  <name>dfs.ha.fencing.ssh.private-key-files</name>
  <value>/root/.ssh/id_dsa</value>
</property>

5,自動化開啓
<property>
   <name>dfs.ha.automatic-failover.enabled</name>
   <value>true</value>
 </property>

修改core-site.xml

<property>
        <name>fs.defaultFS</name>
        <value>hdfs://node01:9000</value>
</property>
1，單節點入口改成集羣入口
<property>
        <name>fs.defaultFS</name>
        <value>hdfs://mycluster</value>
</property>


<property>
        <name>hadoop.tmp.dir</name>
        <value>/var/sxt/hadoop/full</value>
</property>
2，存儲目錄改成
<property>
        <name>hadoop.tmp.dir</name>
        <value>/var/sxt/hadoop/ha</value>
</property>

3，配置zookeeper以便ZKFC可以找到zookeeper
<property>
   <name>ha.zookeeper.quorum</name>
   <value>node02:2181,node03:2181,node04:2181</value>
 </property>

截止目前爲止，兩個NameNode，JournalNode，ZKFC隨着NameNode啓動以上角色均已配置好。

DataNode在slaves中配置，無需修改

ZK 已經成功跑起來了。

剩下就是部署的工作了

1，分發配置文件

[root@node01 hadoop]# scp core-site.xml hdfs-site.xml  node02:`pwd`
core-site.xml                                              100% 1086     1.1KB/s   00:00    
hdfs-site.xml                                              100% 2172     2.1KB/s   00:00    
[root@node01 hadoop]# scp core-site.xml hdfs-site.xml  node03:`pwd`
core-site.xml                                              100% 1086     1.1KB/s   00:00    
hdfs-site.xml                                              100% 2172     2.1KB/s   00:00    
[root@node01 hadoop]# scp core-site.xml hdfs-site.xml  node04:`pwd`
core-site.xml                                              100% 1086     1.1KB/s   00:00    
hdfs-site.xml                                              100% 2172     2.1KB/s   00:00

2，格式化之前，先單獨啓動jouralNode

[root@node01 hadoop]# hadoop-daemon.sh  start journalnode
[root@node02 conf]# hadoop-daemon.sh  start journalnode
starting journalnode, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-journalnode-node02.out
[root@node02 conf]# jps
1805 JournalNode
1851 Jps
1672 QuorumPeerMain

[root@node03 .ssh]# hadoop-daemon.sh start journalnode
starting journalnode, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-journalnode-node03.out
[root@node03 .ssh]# jps
1986 QuorumPeerMain
2097 JournalNode
2143 Jps

此時journalnode均已啓動，但是ha中的jn文件夾中爲空的。

格式化其中某一臺NameNode

[root@node01 jn]# hdfs namenode -format

格式化成功後，在jn中就生成了mycluster目錄，裏面有version文件，這是journalnode的數據目錄，此時NameNode也有了dfs數據目錄。

查看第一臺格式化的NameNode的version信息

[root@node01 current]# cat VERSION 
#Sun Oct 14 00:34:08 CST 2018
namespaceID=1831491601
clusterID=CID-83df3cc2-e5f6-4ec0-b40b-3cd8ff121d43
cTime=0
storageType=NAME_NODE
blockpoolID=BP-1851265382-192.168.25.201-1539448448658
layoutVersion=-60

在格式化的NameNode上啓動NameNode 以便同步靜態元數據到另一臺NameNode

[root@node01 dfs]# hadoop-daemon.sh  start namenode

在另一臺NameNode上同步

[root@node02 conf]# hdfs namenode -bootstrapStandby

查看同步的NameNode的version信息

[root@node02 current]# cat VERSION 
#Sun Oct 14 00:41:06 CST 2018
namespaceID=1831491601
clusterID=CID-83df3cc2-e5f6-4ec0-b40b-3cd8ff121d43
cTime=0
storageType=NAME_NODE
blockpoolID=BP-1851265382-192.168.25.201-1539448448658
layoutVersion=-60

啓動服務的時候ZKFC會跟着一起啓動，但是ZKFC之前需要格式化Zookeeper

[root@node02 current]# hdfs zkfc -formatZK
18/10/14 00:49:21 INFO ha.ActiveStandbyElector: Successfully deleted /hadoop-ha/mycluster from ZK.
18/10/14 00:49:21 INFO ha.ActiveStandbyElector: Successfully created /hadoop-ha/mycluster in ZK.

格式化的過程就是在ZK中創建了hadoop-ha/mycluster目錄而已

現在該做的準備都準備好了，啓動集羣

[root@node01 current]# start-dfs.sh 
Starting namenodes on [node01 node02]
node01: namenode running as process 1703. Stop it first.
node02: starting namenode, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-namenode-node02.out
node03: starting datanode, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-datanode-node03.out
node04: starting datanode, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-datanode-node04.out
node02: starting datanode, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-datanode-node02.out
Starting journal nodes [node01 node02 node03]
node01: journalnode running as process 1577. Stop it first.
node03: journalnode running as process 2097. Stop it first.
node02: journalnode running as process 1805. Stop it first.
Starting ZK Failover Controllers on NN hosts [node01 node02]
node01: starting zkfc, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-zkfc-node01.out
node02: starting zkfc, logging to /opt/sxt/hadoop-2.6.5/logs/hadoop-root-zkfc-node02.out

驗證下每個結點上的角色：

[root@node01 current]# jps
1703 NameNode
2218 DFSZKFailoverController
1577 JournalNode
2278 Jps

[root@node02 current]# jps
1805 JournalNode
2204 Jps
2010 DataNode
1950 NameNode
1672 QuorumPeerMain
2108 DFSZKFailoverController

[root@node03 .ssh]# jps
1986 QuorumPeerMain
2097 JournalNode
2177 DataNode
2263 Jps

[root@node04 .ssh]# jps
1719 DataNode
1629 QuorumPeerMain
1788 Jps

至此HA的集羣搭建成功

6,Hadoop HA配置

安裝zookeeper

Linux學習（二）之常用命令學習

1,Hadoop環境搭建之--僞分佈模式

2,Hadoop環境搭建之本地模式

MyBatis學習（二）

Struts2入門（一）

Mac下配置sublime實現LaTeX

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結