HDFS文件系統（二）

五. NameNode工作機制

5.1 NameNode&Secondary NameNode工作機制

1. 第一階段：namenode啓動

   1. 第一次啓動namenode格式化後，創建fsimage和edits文件。如果不是第一次啓動，直接加載編輯日誌和鏡像文件到內存。
   2. 客戶端對元數據進行增刪改的請求
   3. namenode記錄操作日誌，更新滾動日誌。
   4. namenode在內存中對數據進行增刪改查

2. 第二階段：Secondary NameNode工作

   1. Secondary NameNode詢問namenode是否需要checkpoint。直接帶回namenode是否檢查結果。
   2. Secondary NameNode請求執行checkpoint。
   3. namenode滾動正在寫的edits日誌
   4. 將滾動前的編輯日誌和鏡像文件拷貝到Secondary NameNode
   5. Secondary NameNode加載編輯日誌和鏡像文件到內存，併合並。
   6. 生成新的鏡像文件fsimage.chkpoint
   7. 拷貝fsimage.chkpoint到namenode
   8. namenode將fsimage.chkpoint重新命名成fsimage

3. web端訪問SecondaryNameNode

   1. 啓動集羣
   2. 瀏覽器中輸入：http://hadoop102:50090/status.html
   3. 查看SecondaryNameNode信息

4. chkpoint檢查時間參數設置

   • 通常情況下，SecondaryNameNode每隔一小時執行一次。

   	
   	[hdfs-default.xml]
   	<property>
   		<name>dfs.namenode.checkpoint.period</name>
   		<value>3600</value>
   	</property>
   
   

   • 一分鐘檢查一次操作次數，當操作次數達到1百萬時，SecondaryNameNode執行一次。

   
   	[hdfs-default.xml]
   	<property>
   		<name>dfs.namenode.checkpoint.txns</name>
   		<value>1000000</value>
   		<description>操作動作次數</description>
   		</property>
   	<property>
   		<name>dfs.namenode.checkpoint.check.period</name>
   		<value>60</value>
   		<description> 1分鐘檢查一次操作次數</description>
   	</property>
   
   
   
   

5.2 鏡像文件和編輯日誌文件

1.概念

namenode被格式化之後，將在/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current目錄中

- Fsimage文件：HDFS文件系統元數據的一個永久性的檢查點，其中包含HDFS文件系統的所有目錄和文件idnode的序列化信息。 
- Edits文件：存放HDFS文件系統的所有更新操作的路徑，文件系統客戶端執行的所有寫操作首先會被記錄到edits文件中。 
- seen_txid文件保存的是一個數字，就是最後一個edits_的數字
- 每次Namenode啓動的時候都會將fsimage文件讀入內存，並從00001開始到seen_txid中記錄的數字依次執行每個edits裏面的更新操作，保證內存中的元數據信息是最新的、同步的，可以看成Namenode啓動的時候就將fsimage和edits文件進行了合併。

2.oiv查看fsimage文件

1.
[atguigu@hadoop102 current]$ hdfs
oiv                  apply the offline fsimage viewer to an fsimage
oev                  apply the offline edits viewer to an edits file
2.基本語法
hdfs oiv -p 文件類型 -i鏡像文件 -o 轉換後文件輸出路徑
3.案例實操
[atguigu@hadoop102 current]$ pwd
/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current
[atguigu@hadoop102 current]$ hdfs oiv -p XML -i fsimage_0000000000000000025 -o /opt/module/hadoop-2.7.2/fsimage.xml
[atguigu@hadoop102 current]$ cat /opt/module/hadoop-2.7.2/fsimage.xml
將顯示的xml文件內容拷貝到eclipse中創建的xml文件中，並格式化。

3.oev查看edits文件

（1）基本語法
hdfs oev -p 文件類型 -i編輯日誌 -o 轉換後文件輸出路徑
（2）案例實操
[atguigu@hadoop102 current]$ hdfs oev -p XML -i edits_0000000000000000012-0000000000000000013 -o /opt/module/hadoop-2.7.2/edits.xml
[atguigu@hadoop102 current]$ cat /opt/module/hadoop-2.7.2/edits.xml
將顯示的xml文件內容拷貝到eclipse中創建的xml文件中，並格式化。

5.3 集羣安全模式操作

1. 概述

   Namenode啓動時，首先將映像文件（fsimage）載入內存，並執行編輯日誌（edits）中的各項操作。一旦在內存中成功建立文件系統元數據的映像，則創建一個新的fsimage文件和一個空的編輯日誌。此時，namenode開始監聽datanode請求。但是此刻，namenode運行在安全模式，即namenode的文件系統對於客戶端來說是隻讀的。
   系統中的數據塊的位置並不是由namenode維護的，而是以塊列表的形式存儲在datanode中。在系統的正常操作期間，namenode會在內存中保留所有塊位置的映射信息。在安全模式下，各個datanode會向namenode發送最新的塊列表信息，namenode瞭解到足夠多的塊位置信息之後，即可高效運行文件系統。
   如果滿足“最小副本條件”，namenode會在30秒鐘之後就退出安全模式。所謂的最小副本條件指的是在整個文件系統中99.9%的塊滿足最小副本級別（默認值：dfs.replication.min=1）。在啓動一個剛剛格式化的HDFS集羣時，因爲系統中還沒有任何塊，所以namenode不會進入安全模式。

2. 基本語法

   集羣處於安全模式，不能執行重要操作（寫操作）。集羣啓動完成後，自動退出安全模式。

   （1）bin/hdfs dfsadmin -safemode get （功能描述：查看安全模式狀態）

   （2）bin/hdfs dfsadmin -safemode enter （功能描述：進入安全模式狀態）

   （3）bin/hdfs dfsadmin -safemode leave （功能描述：離開安全模式狀態）

   （4）bin/hdfs dfsadmin -safemode wait （功能描述：等待安全模式狀態）

3. 案例

   模擬等待安全模式

   1）先進入安全模式

    bin/hdfs dfsadmin -safemode enter
   

   2）執行下面的腳本

   編輯一個腳本

    #!/bin/bash
    bin/hdfs dfsadmin -safemode wait
    bin/hdfs dfs -put ~/hello.txt /root/hello.txt
   

   3）再打開一個窗口，執行

    bin/hdfs dfsadmin -safemode leave
   

六.DataNode工作機制

6.1 DataNode工作機制

1. 一個數據塊在datanode上以文件形式存儲在磁盤上，包括兩個文件，一個是數據本身，一個是元數據包括數據塊的長度，塊數據的校驗和，以及時間戳。

2. DataNode啓動後向namenode註冊，通過後，週期性（1小時）的向namenode上報所有的塊信息。

3. 心跳是每3秒一次，心跳返回結果帶有namenode給該datanode的命令如複製塊數據到另一臺機器，或刪除某個數據塊。如果超過10分鐘沒有收到某個datanode的心跳，則認爲該節點不可用。

4. 集羣運行中可以安全加入和退出一些機器

6.2 數據完整性

1. 當DataNode讀取block的時候，它會計算checksum
2. 如果計算後的checksum，與block創建時值不一樣，說明block已經損壞。
3. client讀取其他DataNode上的block.
4. datanode在其文件創建後周期驗證checksum

6.3 掉線時限參數設置

datanode進程死亡或者網絡故障造成datanode無法與namenode通信，namenode不會立即把該節點判定爲死亡，要經過一段時間，這段時間暫稱作超時時長。HDFS默認的超時時長爲10分鐘+30秒。如果定義超時時間爲timeout，則超時時長的計算公式爲：timeout = 2 * dfs.namenode.heartbeat.recheck-interval + 10 * dfs.heartbeat.interval。
而默認的dfs.namenode.heartbeat.recheck-interval 大小爲5分鐘，dfs.heartbeat.interval默認爲3秒。
需要注意的是hdfs-site.xml 配置文件中的heartbeat.recheck.interval的單位爲毫秒，dfs.heartbeat.interval的單位爲秒。

<property>
    <name>dfs.namenode.heartbeat.recheck-interval</name>
    <value>300000</value>
</property>
<property>
    <name> dfs.heartbeat.interval </name>
    <value>3</value>
</property>

6.4 DataNode的目錄結構

和namenode不同的是，datanode的存儲目錄是初始階段自動創建的，不需要額外格式化。

1. 在/opt/module/hadoop-2.7.2/data/tmp/dfs/data/current這個目錄下查看版本號

    [atguigu@hadoop102 current]$ cat VERSION 
   
    storageID=DS-1b998a1d-71a3-43d5-82dc-c0ff3294921b
   
    clusterID=CID-1f2bf8d1-5ad2-4202-af1c-6713ab381175
   
    cTime=0
    datanodeUuid=970b2daf-63b8-4e17-a514-d81741392165
   
    storageType=DATA_NODE
   
    layoutVersion=-56
   

2. 具體解釋

   （1）storageID：存儲id號

   （2）clusterID集羣id，全局唯一

   （3）cTime屬性標記了datanode存儲系統的創建時間，對於剛剛格式化的存儲系統，這個屬性爲0；但是在文件系統升級之後，該值會更新到新的時間戳。

   （4）datanodeUuid：datanode的唯一識別碼

   （5）storageType：存儲類型

   （6）layoutVersion是一個負整數。通常只有HDFS增加新特性時纔會更新這個版本號。

3. 在/opt/module/hadoop-2.7.2/data/tmp/dfs/data/current/BP-97847618-192.168.10.102-1493726072779/current這個目錄下查看該數據塊的版本號
   [atguigu@hadoop102 current]$ cat VERSION

   #Mon May 08 16:30:19 CST 2017
   
   namespaceID=1933630176
   
   cTime=0
   
   blockpoolID=BP-97847618-192.168.10.102-1493726072779
   
   layoutVersion=-56
   

4. 具體解釋

   （1）namespaceID：是datanode首次訪問namenode的時候從namenode處獲取的storageID對每個datanode來說是唯一的（但對於單個datanode中所有存儲目錄來說則是相同的），namenode可用這個屬性來區分不同datanode。

   （2）cTime屬性標記了datanode存儲系統的創建時間，對於剛剛格式化的存儲系統，這個屬性爲0；但是在文件系統升級之後，該值會更新到新的時間戳。

   （3）blockpoolID：一個block pool id標識一個block pool，並且是跨集羣的全局唯一。當一個新的Namespace被創建的時候(format過程的一部分)會創建並持久化一個唯一ID。在創建過程構建全局唯一的BlockPoolID比人爲的配置更可靠一些。NN將BlockPoolID持久化到磁盤中，在後續的啓動過程中，會再次load並使用。

   （4）layoutVersion是一個負整數。通常只有HDFS增加新特性時纔會更新這個版本號。

6.5 服役新數據節點

需求：隨着公司業務的增長，數據量越來越大，原有的數據節點的容量已經不能滿足存儲數據的需求，需要在原有集羣基礎上動態添加新的數據節點。

1. 環境準備

   • 克隆一臺虛擬機
   • 修改ip地址和主機名稱
   • 修改xcall和xsync文件，增加新增節點的同步
   • 刪除原來HDFS文件系統留存的文件/opt/module/hadoop-2.7.2/data

2. 服役新節點具體步驟

   1. 在namenode的/opt/module/hadoop-2.7.2/etc/hadoop目錄下創建dfs.hosts文件

       [atguigu@hadoop105 hadoop]$ pwd
       /opt/module/hadoop-2.7.2/etc/hadoop
       [atguigu@hadoop105 hadoop]$ touch dfs.hosts
       [atguigu@hadoop105 hadoop]$ vi dfs.hosts
       添加如下主機名稱（包含新服役的節點）
       hadoop102
       hadoop103
       hadoop104
       hadoop105
      

   2. 在namenode的hdfs-site.xml配置文件中增加dfs.hosts屬性

      <property>
      	<name>dfs.hosts</name>
      	<value>/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts</value>
      </property>
      

   3. 刷新namenode

      [atguigu@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
      Refresh nodes successful
      

   4. 更新resourcemanager節點

      [atguigu@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
      17/06/24 14:17:11 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.1.103:8033
      

   5. 在namenode的slaves文件中增加新主機名稱

      增加105  不需要分發
      hadoop102
      hadoop103
      hadoop104
      hadoop105
      

   6. 單獨命令啓動新的數據節點和節點管理器

      [atguigu@hadoop105 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start datanode
      starting datanode, logging to /opt/module/hadoop-2.7.2/logs/hadoop-atguigu-datanode-hadoop105.out
      [atguigu@hadoop105 hadoop-2.7.2]$ sbin/yarn-daemon.sh start nodemanager
      starting nodemanager, logging to /opt/module/hadoop-2.7.2/logs/yarn-atguigu-nodemanager-hadoop105.out
      

   7. 在web瀏覽器上檢查是否ok

3. 如果數據不均衡，可以用命令實現集羣的再平衡

   [atguigu@hadoop102 sbin]$ ./start-balancer.sh
   starting balancer, logging to /opt/module/hadoop-2.7.2/logs/hadoop-atguigu-balancer-hadoop102.out
   Time Stamp   Iteration#  Bytes Already Moved  Bytes Left To Move  Bytes Being Moved
   

6.6 退役舊數據節點

1. 在namenode的/opt/module/hadoop-2.7.2/etc/hadoop目錄下創建dfs.hosts.exclude文件

    [atguigu@hadoop102 hadoop]$ pwd
    /opt/module/hadoop-2.7.2/etc/hadoop
    [atguigu@hadoop102 hadoop]$ touch dfs.hosts.exclude
    [atguigu@hadoop102 hadoop]$ vi dfs.hosts.exclude
    添加如下主機名稱（要退役的節點）
    hadoop105
   

2. 在namenode的hdfs-site.xml配置文件中增加dfs.hosts.exclude屬性

    <property>
    	<name>dfs.hosts.exclude</name>
    	<value>/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts.exclude</value>
    </property>
   

3. 刷新namenode、刷新resourcemanager

    [atguigu@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
    Refresh nodes successful
    [atguigu@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
    17/06/24 14:55:56 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.1.103:8033
   

4. 檢查web瀏覽器，退役節點的狀態爲decommission in progress（退役中），說明數據節點正在複製塊到其他節點。

5. 等待退役節點狀態爲decommissioned（所有塊已經複製完成），停止該節點及節點資源管理器。注意：如果副本數是3，服役的節點小於等於3，是不能退役成功的，需要修改副本數後才能退役。·

   [atguigu@hadoop105 hadoop-2.7.2]$ sbin/hadoop-daemon.sh stop datanode
   stopping datanode
   [atguigu@hadoop105 hadoop-2.7.2]$ sbin/yarn-daemon.sh stop nodemanager
   stopping nodemanager
   

6. 從include文件中刪除退役節點，再運行刷新節點的命令

   1. 從namenode的dfs.hosts文件中刪除退役節點hadoop105

      hadoop102
      hadoop103
      hadoop104
      

   2. 刷新namenode，刷新resourcemanager

      [atguigu@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
      Refresh nodes successful
      [atguigu@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
      17/06/24 14:55:56 INFO client.RMProxy: Connecting to ResourceManager at hadoop103/192.168.1.103:8033
      

7. 從namenode的slave文件中刪除退役節點hadoop105

   hadoop102
   hadoop103
   hadoop104
   

8. 如果數據不均衡，可以用命令實現集羣的再平衡

   [atguigu@hadoop102 hadoop-2.7.2]$ sbin/start-balancer.sh 
   starting balancer, logging to /opt/module/hadoop-2.7.2/logs/hadoop-atguigu-balancer-hadoop102.out
   Time Stamp   Iteration#  Bytes Already Moved  Bytes Left To Move  Bytes Being Moved