1、Zookeeper是什麼？
分佈、開源的應用程序協調服務,它是集羣的管理者,監視着集羣中各個節點的狀態，根據節點的反饋進行下一步合理操作。主要解決分佈式應用經常遇到的數據管理問題,如：統一命名服務、狀態同步服務、集羣管理、分佈式應用配置項的管理等。
（Zookeeper 作爲 Hadoop 項目中的一個子項目，是 Hadoop 集羣管理的一個必不可少的模塊，它主要用來控制集羣中的數據，如它管理 Hadoop 集羣中的 NameNode，還有 Hbase 中 Master Election、Server 之間狀態同步等。）
2、Zookeeper提供什麼？
Zookeepr提供文件系統及通知機制。
（1）文件系統：zookeeper維護一個類似文件系統的數據結構：
每個子目錄項如 NameService 都被稱作爲 znode，和文件系統一樣，自由增加及刪除，唯一不同其可存儲數據。Znode分爲四種類型
(1) PERSISTENT-持久化目錄節點。（客戶端與zookeeper斷開連接後，該節點依舊存在）。
(2) PERSISTENT_SEQUENTIAL-持久化順序編號目錄節點。（客戶端與zookeeper斷開連接後，該節點依舊存在，只是Zookeeper給該節點名稱進行順序編號）
(3) EPHEMERAL-臨時目錄節點（客戶端與zookeeper斷開連接後，該節點被刪除）
(4) EPHEMERAL_SEQUENTIAL-臨時順序編號目錄節點。（客戶端與zookeeper斷開連接後，該節點被刪除，只是Zookeeper給該節點名稱進行順序編號）
（2）通知機制：客戶端註冊監聽它關心的目錄節點，當目錄節點發生變化（數據改變、被刪除、子目錄節點增加刪除）時，zookeeper會通知客戶端。
3、Zookeeper能爲我們做什麼？
（1）命名服務：在zookeeper的文件系統裏創建一個目錄，即有唯一的path。在我們使用tborg無法確定上游程序的部署機器時即可與下游程序約定好path，通過path即能互相探索發現。
（2）配置管理：把應用配置放置zookeeper上去,保存在 Zookeeper 的某個目錄節點中，然後所有相關應用程序對這個目錄節點進行監聽，一旦配置信息發生變化，每個應用程序就會收到 Zookeeper 的通知，然後從 Zookeeper 獲取新的配置信息應用到系統中就好。
（3）集羣管理：節點（機器）增刪及Master選取。節點增刪：所有機器約定在父目錄GroupMembers下創建臨時目錄節點，然後監聽父目錄節點的子節點變化消息。一旦有機器掛掉，該機器與 zookeeper的連接斷開，其所創建的臨時目錄節點被刪除，所有其他機器都收到通知：某個兄弟目錄被刪除，於是，所有人都知道：它上船了。新機器加入 也是類似，所有機器收到通知：新兄弟目錄加入，highcount又有了。Master選取：所有機器創建臨時順序編號目錄節點，每次選取編號最小的機器作爲master就好。
（4）分佈式鎖：基於zookeeper一致性文件系統,實現鎖服務。鎖服務分爲保存獨佔及時序控制兩類。保存獨佔：將zookeeper上的一個znode看作是一把鎖，通過createznode的方式來實現。所有客戶端都去創建 /distribute_lock 節點，最終成功創建的那個客戶端也即擁有了這把鎖。用完刪除自己創建的distribute_lock 節點就釋放鎖。時序控制：基於/distribute_lock鎖，所有客戶端在它下面創建臨時順序編號目錄節點，和選master一樣，編號最小的獲得鎖，用完刪除，依次方便。
（5）隊列管理：分同步隊列,FIFO隊列（入隊與出隊），同步隊列：當一個隊列的成員都聚齊時，這個隊列纔可用，否則一直等待所有成員到達。在約定目錄下創建臨時目錄節點，監聽節點數目是否是我們要求的數目。FIFO隊列：和分佈式鎖服務中的控制時序場景基本原理一致，入列有編號，出列按編號。
（6）分佈式與數據複製：Zookeeper作爲一個集羣提供一致的數據服務，必然在所有機器間做數據複製。數據複製好處：（1）容錯：一個節點出錯，不致於讓整個系統停止工作，別的節點可以接管它的工作。（2）提高系統的擴展能力：把負載分佈到多個節點上，或者增加節點來提高系統的負載能力；（3）性能提升：讓客戶端本地訪問就近節點,提高用戶訪問速度。
4、Paxos算法（數據一致性）
數據集羣系統分：（1）寫主（writeMaster）,對數據的修改提交給指定的節點。讀無此限制，可以讀取任何一個節點。這種情況下客戶端需要對讀與寫進行區別，俗稱讀寫分離；（2）寫任意（對數據的修改可提交給任意的節點，跟讀一樣。這種情況下，客戶端對集羣節點的角色與變化透明。）對zookeeper來說，它採用的方式是寫任意。通過增加機器，它的讀吞吐能力和響應能力擴展性非常好，而寫，隨着機器的增多吞吐能力肯定下降（這也是它建立observer的原因），而響應能力則取決於具體實現方式，是延遲複製保持最終一致性，還是立即複製快速響應。
原則：在一個分佈式數據庫系統中，如果各節點的初始狀態一致，每個節點都執行相同的操作序列，那麼他們最後能得到一個一致的狀態。Paxos算法解決：保證每個節點執行相同的操作序列。
Paxos算法通過投票來對寫操作進行全局編號，同一時刻，只有一個寫操作被批准，同時併發的寫操作要去爭取選票，只有獲得過半數選票的寫操作纔會被 批准（所以永遠只會有一個寫操作得到批准），其他的寫操作競爭失敗只好再發起一輪投票，就這樣，在日復一日年復一年的投票中，所有寫操作都被嚴格編號排序。編號嚴格遞增，當一個節點接受了一個編號爲100的寫操作，之後又接受到編號爲99的寫操作（因爲網絡延遲等很多不可預見原因），它馬上能意識到自己 數據不一致了，自動停止對外服務並重啓同步過程。任何一個節點掛掉都不會影響整個集羣的數據一致性（總2n+1臺，除非掛掉大於n臺）。
5、Zookeepr基本概念
5.1角色簡介
Zookeeper角色分爲三類：
（1）領導者：負責進行投票的發起和決議,更新系統狀態。
（2）學習者：①跟隨者：Follower用於接收客戶請求並向客戶端返回結果，在選中過程中參與投票。②觀察者：Observer可以接收客戶端連接，將寫請求轉發給leader節點。但不參加投票過程,只同步leader狀態。Observer目的在於擴展系統，提高讀取速度。
（3）客戶端：請求發起方。
系統模型如圖：
5.2設計目的
（1）一致性：client不論連接到哪個Server，展示給它都是同一個視圖，這是zookeeper最重要的性能。
（2）可靠性：具有簡單、健壯、良好的性能，如果消息m被到一臺服務器接受，那麼它將被所有的服務器接受。
（3）實時性：Zookeeper保證客戶端將在一個時間間隔範圍內獲得服務器的更新信息，或者服務器失效的信息。但由於網絡延時等原因，Zookeeper不能保證兩個客戶端能同時得到剛更新的數據，如果需要最新數據，應該在讀數據之前調用sync()接口。
（4）等待無關（wait-free）：慢的或者失效的client不得干預快速的client的請求，使得每個client都能有效的等待。
（5）原子性：更新只能成功或者失敗，沒有中間狀態。
（6）順序性：包括全局有序和偏序兩種：全局有序是指如果在一臺服務器上消息a在消息b前發佈，則在所有Server上消息a都將在消息b前被髮布；偏序是指如果一個消息b在消息a後被同一個發送者發佈，a必將排在b前面。
6、Zookeepr工作原理
Zookeeper的核心是原子廣播，這個機制保證了各個Server之間的同步。實現這個機制的協議叫做Zab協議。Zab協議有兩種模式，它們分別是恢復模式（選主）和廣播模式（同步）。當服務啓動或者在領導者崩潰後，Zab就進入了恢復模式，當領導者被選舉出來，且大多數Server完成了和 leader的狀態同步以後，恢復模式就結束了。狀態同步保證了leader和Server具有相同的系統狀態。
爲了保證事務的順序一致性，zookeeper採用了遞增的事務id號（zxid）來標識事務。所有的提議（proposal）都在被提出的時候加上 了zxid。實現中zxid是一個64位的數字，它高32位是epoch用來標識leader關係是否改變，每次一個leader被選出來，它都會有一個 新的epoch，標識當前屬於那個leader的統治時期。低32位用於遞增計數。
每個Server在工作過程中有三種狀態：
（1）LOOKING：當前Server不知道leader是誰，正在搜尋。
（2）LEADING：當前Server即爲選舉出來的leader。
（3）FOLLOWING：leader已經選舉出來，當前Server與之同步。
6.1選主流程
當leader崩潰或者leader失去大多數的follower，這時候zk進入恢復模式，恢復模式需要重新選舉出一個新的leader，讓所有的 Server都恢復到一個正確的狀態。Zk的選舉算法有兩種：一種是基於basic paxos實現的，另外一種是基於fast paxos算法實現的。系統默認的選舉算法爲fast paxos。先介紹basic paxos流程：
Basic paxos：當前Server發起選舉的線程,向所有Server發起詢問,選舉線程收到所有回覆,計算zxid最大Server,並推薦此爲leader，若此提議獲得n/2+1票通過,此爲leader，否則重複上述流程，直到leader選出。
Fast paxos:某Server首先向所有Server提議自己要成爲leader，當其它Server收到提議以後，解決epoch和 zxid的衝突，並接受對方的提議，然後向對方發送接受提議完成的消息，重複這個流程，最後一定能選舉出Leader。(即提議方解決其他所有epoch和 zxid的衝突,即爲leader)。
6.2同步流程
（1）Leader等待server連接；
（2）Follower連接leader，將最大的zxid發送給leader；
（3）Leader根據follower的zxid確定同步點，完成同步後通知follower 已經成爲uptodate狀態；
（4）Follower收到uptodate消息後，又可以重新接受client的請求進行服務了。
6.3主要功能（server）
（1）Leader主要功能：①恢復數據②維持與Learner的心跳，接收Learner請求並判斷Learner的請求消息類型；③Learner的消息類型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息，根據不同的消息類型，進行不同的處理。
PING消息是指Learner的心跳信息；REQUEST消息是Follower發送的提議信息，包括寫請求及同步請求；ACK消息是 Follower的對提議的回覆，超過半數的Follower通過，則commit該提議；REVALIDATE消息是用來延長SESSION有效時間。
（2）Follower主要功能：①向Leader發送請求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）；②接收Leader消息並進行處理；③接收Client的請求，如果爲寫請求，發送給Leader進行投票；④返回Client結果。
7、Zookeeper應用場景
（1）數據發佈與訂閱：發佈與訂閱即所謂的配置管理，顧名思義就是將數據發佈到zk節點上，供訂閱者動態獲取數據，實現配置信息的集中式管理和動態更新。例如全局的配置信息，地址列表等就非常適合使用。
（2）NameService：作爲分佈式命名服務，通過調用zk的create node api，能夠很容易創建一個全局唯一的path，這個path就可以作爲一個名稱。
（3）分佈通知/協調：ZooKeeper 中特有watcher註冊與異步通知機制，能夠很好的實現分佈式環境下不同系統之間的通知與協調，實現對數據變更的實時處理。使用方法通常是不同系統都對 ZK上同一個znode進行註冊，監聽znode的變化（包括znode本身內容及子節點的），其中一個系統update了znode，那麼另一個系統能 夠收到通知，並作出相應處理。使用zookeeper來進行分佈式通知和協調能夠大大降低系統之間的耦合。
（4）分佈式鎖：主要得益於ZooKeeper爲我們保證了數據的強一致性，即用戶只要完全相信每時每刻，zk集羣中任意節點（一個zk server）上的相同znode的數據是一定是相同的。鎖服務可以分爲兩類，一個是保持獨佔，另一個是控制時序。控制時序中Zk的父節點（/distribute_lock）維持一份sequence,保證子節點創建的時序性，從而也形成了每個客戶端的全局時序。
（5）集羣管理：①集羣監控：a. 客戶端在節點 x 上註冊一個Watcher，那麼如果x的子節點變化了，會通知該客戶端。b. 創建EPHEMERAL類型的節點，一旦客戶端和服務器的會話結束或過期，那麼該節點就會消失。②Master選舉：
利用ZooKeeper的強一致性，能夠保證在分佈式高併發情況下節點創建的全局唯一性，即：同時有多個客戶端請求創建 /currentMaster 節點，最終一定只有一個客戶端請求能夠創建成功。
（6）分佈式隊列：一種常規先進先出,另一種待隊列成員集齊後執行。
參考文章：https://blog.csdn.net/gs80140/article/details/51496925