大數據入門(mén) | Zookeeper的工作原理

1.Zookeeper是什么？

ZooKeeper是一個(gè)分布式的，開(kāi)放源碼的分布式應用程序協(xié)調服務(wù)，是Google的Chubby一個(gè)開(kāi)源的實(shí)現，它是集群的管理者，監視著(zhù)集群中各個(gè)節點(diǎn)的狀態(tài)根據節點(diǎn)提交的反饋進(jìn)行下一步合理操作。最終，將簡(jiǎn)單易用的接口和性能高效、功能穩定的系統提供給用戶(hù)。

2.Zookeeper提供了什么？

1)文件系統

2)通知機制

3.Zookeeper文件系統

每個(gè)子目錄項如 NameService 都被稱(chēng)作為znode，和文件系統一樣，我們能夠自由的增加、刪除znode，在一個(gè)znode下增加、刪除子znode，唯一的不同在于znode是可以存儲數據的。 

有四種類(lèi)型的znode： 

1、PERSISTENT-持久化目錄節點(diǎn) 

客戶(hù)端與zookeeper斷開(kāi)連接后，該節點(diǎn)依舊存在 

2、PERSISTENT_SEQUENTIAL-持久化順序編號目錄節點(diǎn) 

客戶(hù)端與zookeeper斷開(kāi)連接后，該節點(diǎn)依舊存在，只是Zookeeper給該節點(diǎn)名稱(chēng)進(jìn)行順序編號 

3、EPHEMERAL-臨時(shí)目錄節點(diǎn) 

客戶(hù)端與zookeeper斷開(kāi)連接后，該節點(diǎn)被刪除 

4、EPHEMERAL_SEQUENTIAL-臨時(shí)順序編號目錄節點(diǎn) 

客戶(hù)端與zookeeper斷開(kāi)連接后，該節點(diǎn)被刪除，只是Zookeeper給該節點(diǎn)名稱(chēng)進(jìn)行順序編號 

 

4.Zookeeper通知機制

客戶(hù)端注冊監聽(tīng)它關(guān)心的目錄節點(diǎn)，當目錄節點(diǎn)發(fā)生變化（數據改變、被刪除、子目錄節點(diǎn)增加刪除）時(shí)，zookeeper會(huì )通知客戶(hù)端。

5.Zookeeper做了什么？

1.命名服務(wù)  2.配置管理  3.集群管理  4.分布式鎖  5.隊列管理

6.Zookeeper命名服務(wù)

在zookeeper的文件系統里創(chuàng )建一個(gè)目錄，即有唯一的path。在我們使用tborg無(wú)法確定上游程序的部署機器時(shí)即可與下游程序約定好path，通過(guò)path即能互相探索發(fā)現。

7.Zookeeper的配置管理

程序總是需要配置的，如果程序分散部署在多臺機器上，要逐個(gè)改變配置就變得困難?，F在把這些配置全部放到zookeeper上去，保存在 Zookeeper 的某個(gè)目錄節點(diǎn)中，然后所有相關(guān)應用程序對這個(gè)目錄節點(diǎn)進(jìn)行監聽(tīng)，一旦配置信息發(fā)生變化，每個(gè)應用程序就會(huì )收到 Zookeeper 的通知，然后從 Zookeeper 獲取新的配置信息應用到系統中就好。

 

8.Zookeeper集群管理

所謂集群管理無(wú)在乎兩點(diǎn)：是否有機器退出和加入、選舉master。 

對于第一點(diǎn)，所有機器約定在父目錄GroupMembers下創(chuàng )建臨時(shí)目錄節點(diǎn)，然后監聽(tīng)父目錄節點(diǎn)的子節點(diǎn)變化消息。一旦有機器掛掉，該機器與 zookeeper的連接斷開(kāi)，其所創(chuàng )建的臨時(shí)目錄節點(diǎn)被刪除，所有其他機器都收到通知：某個(gè)兄弟目錄被刪除，于是，所有人都知道：它上船了。

新機器加入也是類(lèi)似，所有機器收到通知：新兄弟目錄加入，highcount又有了，對于第二點(diǎn)，我們稍微改變一下，所有機器創(chuàng )建臨時(shí)順序編號目錄節點(diǎn)，每次選取編號最小的機器作為master就好。

 

9.Zookeeper分布式鎖

有了zookeeper的一致性文件系統，鎖的問(wèn)題變得容易。鎖服務(wù)可以分為兩類(lèi)，一個(gè)是保持獨占，另一個(gè)是控制時(shí)序。 

對于第一類(lèi)，我們將zookeeper上的一個(gè)znode看作是一把鎖，通過(guò)createznode的方式來(lái)實(shí)現。所有客戶(hù)端都去創(chuàng )建 /distribute_lock 節點(diǎn)，最終成功創(chuàng )建的那個(gè)客戶(hù)端也即擁有了這把鎖。用完刪除掉自己創(chuàng )建的distribute_lock 節點(diǎn)就釋放出鎖。 

對于第二類(lèi)， /distribute_lock 已經(jīng)預先存在，所有客戶(hù)端在它下面創(chuàng )建臨時(shí)順序編號目錄節點(diǎn)，和選master一樣，編號最小的獲得鎖，用完刪除，依次方便。

 

10.Zookeeper隊列管理

兩種類(lèi)型的隊列：

1、同步隊列，當一個(gè)隊列的成員都聚齊時(shí)，這個(gè)隊列才可用，否則一直等待所有成員到達。 

2、隊列按照 FIFO 方式進(jìn)行入隊和出隊操作。 

第一類(lèi)，在約定目錄下創(chuàng )建臨時(shí)目錄節點(diǎn)，監聽(tīng)節點(diǎn)數目是否是我們要求的數目。 

第二類(lèi)，和分布式鎖服務(wù)中的控制時(shí)序場(chǎng)景基本原理一致，入列有編號，出列按編號。

11.分布式與數據復制

Zookeeper作為一個(gè)集群提供一致的數據服務(wù)，自然，它要在所有機器間做數據復制。數據復制的好處： 

1、容錯：一個(gè)節點(diǎn)出錯，不致于讓整個(gè)系統停止工作，別的節點(diǎn)可以接管它的工作； 

2、提高系統的擴展能力：把負載分布到多個(gè)節點(diǎn)上，或者增加節點(diǎn)來(lái)提高系統的負載能力； 

3、提高性能：讓客戶(hù)端本地訪(fǎng)問(wèn)就近的節點(diǎn)，提高用戶(hù)訪(fǎng)問(wèn)速度。 

從客戶(hù)端讀寫(xiě)訪(fǎng)問(wèn)的透明度來(lái)看，數據復制集群系統分下面兩種： 

1、寫(xiě)主(WriteMaster) ：對數據的修改提交給指定的節點(diǎn)。讀無(wú)此限制，可以讀取任何一個(gè)節點(diǎn)。這種情況下客戶(hù)端需要對讀與寫(xiě)進(jìn)行區別，俗稱(chēng)讀寫(xiě)分離； 

2、寫(xiě)任意(Write Any)：對數據的修改可提交給任意的節點(diǎn)，跟讀一樣。這種情況下，客戶(hù)端對集群節點(diǎn)的角色與變化透明。

對zookeeper來(lái)說(shuō)，它采用的方式是寫(xiě)任意。通過(guò)增加機器，它的讀吞吐能力和響應能力擴展性非常好，而寫(xiě)，隨著(zhù)機器的增多吞吐能力肯定下降（這也是它建立observer的原因），而響應能力則取決于具體實(shí)現方式，是延遲復制保持最終一致性，還是立即復制快速響應。

12.Zookeeper角色描述

 

13.Zookeeper與客戶(hù)端

 

14.Zookeeper設計目的

1.最終一致性：client不論連接到哪個(gè)Server，展示給它都是同一個(gè)視圖，這是zookeeper最重要的性能。 

2.可靠性：具有簡(jiǎn)單、健壯、良好的性能，如果消息被到一臺服務(wù)器接受，那么它將被所有的服務(wù)器接受。 

3.實(shí)時(shí)性：Zookeeper保證客戶(hù)端將在一個(gè)時(shí)間間隔范圍內獲得服務(wù)器的更新信息，或者服務(wù)器失效的信息。但由于網(wǎng)絡(luò )延時(shí)等原因，Zookeeper不能保證兩個(gè)客戶(hù)端能同時(shí)得到剛更新的數據，如果需要最新數據，應該在讀數據之前調用sync()接口。 

4.等待無(wú)關(guān)（wait-free）：慢的或者失效的client不得干預快速的client的請求，使得每個(gè)client都能有效的等待。 

5.原子性：更新只能成功或者失敗，沒(méi)有中間狀態(tài)。 

6.順序性：包括全局有序和偏序兩種：全局有序是指如果在一臺服務(wù)器上消息a在消息b前發(fā)布，則在所有Server上消息a都將在消息b前被發(fā)布；偏序是指如果一個(gè)消息b在消息a后被同一個(gè)發(fā)送者發(fā)布，a必將排在b前面。 

15.Zookeeper工作原理

Zookeeper 的核心是原子廣播，這個(gè)機制保證了各個(gè)Server之間的同步。實(shí)現這個(gè)機制的協(xié)議叫做Zab協(xié)議。Zab協(xié)議有兩種模式，它們分別是恢復模式（選主）和廣播模式（同步）。當服務(wù)啟動(dòng)或者在領(lǐng)導者崩潰后，Zab就進(jìn)入了恢復模式，當領(lǐng)導者被選舉出來(lái)，且大多數Server完成了和 leader的狀態(tài)同步以后，恢復模式就結束了。狀態(tài)同步保證了leader和Server具有相同的系統狀態(tài)。 

為了保證事務(wù)的順序一致性，zookeeper采用了遞增的事務(wù)id號（zxid）來(lái)標識事務(wù)。所有的提議（proposal）都在被提出的時(shí)候加上了zxid。實(shí)現中zxid是一個(gè)64位的數字，它高32位是epoch用來(lái)標識leader關(guān)系是否改變，每次一個(gè)leader被選出來(lái)，它都會(huì )有一個(gè)新的epoch，標識當前屬于那個(gè)leader的統治時(shí)期。低32位用于遞增計數。

16.Zookeeper下Server工作狀態(tài)

每個(gè)Server在工作過(guò)程中有三種狀態(tài)： 

LOOKING：當前Server不知道leader是誰(shuí)，正在搜尋

LEADING：當前Server即為選舉出來(lái)的leader

FOLLOWING：leader已經(jīng)選舉出來(lái)，當前Server與之同步

17.Zookeeper選主流程baiscpaxos

當leader崩潰或者leader失去大多數的follower，這時(shí)候zk進(jìn)入恢復模式，恢復模式需要重新選舉出一個(gè)新的leader，讓所有的Server都恢復到一個(gè)正確的狀態(tài)。Zk的選舉算法有兩種：一種是基于basic paxos實(shí)現的，另外一種是基于fast paxos算法實(shí)現的。系統默認的選舉算法為fast paxos。

1.選舉線(xiàn)程由當前Server發(fā)起選舉的線(xiàn)程擔任，其主要功能是對投票結果進(jìn)行統計，并選出推薦的Server； 

2.選舉線(xiàn)程首先向所有Server發(fā)起一次詢(xún)問(wèn)(包括自己)； 

3.選舉線(xiàn)程收到回復后，驗證是否是自己發(fā)起的詢(xún)問(wèn)(驗證zxid是否一致)，然后獲取對方的id(myid)，并存儲到當前詢(xún)問(wèn)對象列表中，最后獲取對方提議的leader相關(guān)信息(id,zxid)，并將這些信息存儲到當次選舉的投票記錄表中； 

4.收到所有Server回復以后，就計算出zxid最大的那個(gè)Server，并將這個(gè)Server相關(guān)信息設置成下一次要投票的Server； 

5.線(xiàn)程將當前zxid最大的Server設置為當前Server要推薦的Leader，如果此時(shí)獲勝的Server獲得n/2 + 1的Server票數，設置當前推薦的leader為獲勝的Server，將根據獲勝的Server相關(guān)信息設置自己的狀態(tài)，否則，繼續這個(gè)過(guò)程，直到leader被選舉出來(lái)。 通過(guò)流程分析我們可以得出：要使Leader獲得多數Server的支持，則Server總數必須是奇數2n+1，且存活的Server的數目不得少于n+1. 每個(gè)Server啟動(dòng)后都會(huì )重復以上流程。在恢復模式下，如果是剛從崩潰狀態(tài)恢復的或者剛啟動(dòng)的server還會(huì )從磁盤(pán)快照中恢復數據和會(huì )話(huà)信息，zk會(huì )記錄事務(wù)日志并定期進(jìn)行快照，方便在恢復時(shí)進(jìn)行狀態(tài)恢復。選主的具體流程圖所示： 

 

18.Zookeeeper選主流程fastpaxos

fast paxos流程是在選舉過(guò)程中，某Server首先向所有Server提議自己要成為leader，當其它Server收到提議以后，解決epoch和 zxid的沖突，并接受對方的提議，然后向對方發(fā)送接受提議完成的消息，重復這個(gè)流程，最后一定能選舉出Leader。

 

19.Zookeeper同步流程

選完Leader以后，zk就進(jìn)入狀態(tài)同步過(guò)程。 

1. Leader等待server連接； 

2 .Follower連接leader，將最大的zxid發(fā)送給leader； 

3 .Leader根據follower的zxid確定同步點(diǎn)； 

4 .完成同步后通知follower 已經(jīng)成為uptodate狀態(tài)； 

5 .Follower收到uptodate消息后，又可以重新接受client的請求進(jìn)行服務(wù)了。

 

20.Zookeeper工作流程-Leader

1 .恢復數據； 

2 .維持與Learner的心跳，接收Learner請求并判斷Learner的請求消息類(lèi)型； 

3 .Learner的消息類(lèi)型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息，根據不同的消息類(lèi)型，進(jìn)行不同的處理。 

PING 消息是指Learner的心跳信息；

REQUEST消息是Follower發(fā)送的提議信息，包括寫(xiě)請求及同步請求；

ACK消息是 Follower的對提議的回復，超過(guò)半數的Follower通過(guò)，則commit該提議；

REVALIDATE消息是用來(lái)延長(cháng)SESSION有效時(shí)間。

 

21.Zookeeper工作流程-Follower

Follower主要有四個(gè)功能： 

1.向Leader發(fā)送請求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）； 

2.接收Leader消息并進(jìn)行處理； 

3.接收Client的請求，如果為寫(xiě)請求，發(fā)送給Leader進(jìn)行投票；

4.返回Client結果。 

Follower的消息循環(huán)處理如下幾種來(lái)自L(fǎng)eader的消息： 

1 .PING消息： 心跳消息； 

2 .PROPOSAL消息：Leader發(fā)起的提案，要求Follower投票； 

3 .COMMIT消息：服務(wù)器端最新一次提案的信息； 

4 .UPTODATE消息：表明同步完成； 

5 .REVALIDATE消息：根據Leader的REVALIDATE結果，關(guān)閉待revalidate的session還是允許其接受消息； 

6 .SYNC消息：返回SYNC結果到客戶(hù)端，這個(gè)消息最初由客戶(hù)端發(fā)起，用來(lái)強制得到最新的更新。