轉(zhuǎn) http://blackPRoof.VEvb.com/blog/2039040 zookeeper使用和原理探究（一） zookeeper介紹 zookeeper是一個為分布式應用提供一致性服務的軟件，它是開源的Hadoop項目中的一個子項目，并且根據(jù)google發(fā)表的論文來實現(xiàn)的，接下來我們首先來安裝使用下這個軟件，然后再來探索下其中比較重要一致性算法。

zookeeper安裝和使用 zookeeper的安裝基本上可以按照 http://hadoop.apache.org/zookeeper/docs/current/ zookeeperStarted.html 這個頁面上的步驟完成安裝，這里主要介紹下部署一個集群的步驟，因為這個官方頁面似乎講得并不是非常詳細(Running Replicated Zookeeper)。

由于手頭機器不足，所以在一臺機器上部署了3個server,如果你手頭也比較緊，也可以這么做。那么我建了3個文件夾，如下 server1 server2 server3

然后每個文件夾里面解壓一個zookeeper的下載包，并且還建了幾個文件夾，總體結(jié)構(gòu)如下,最后那個是下載過來壓縮包的解壓文件 data dataLog logs zookeeper-3.3.2

那么首先進入data目錄，創(chuàng)建一個myid的文件，里面寫入一個數(shù)字，比如我這個是server1,那么就寫一個1，server2對應myid文件就寫入2，server3對應myid文件就寫個3

然后進入zookeeper-3.3.2/conf目錄，那么如果是剛下過來，會有3個文件，configuration.xml, log4j.properties,zoo_sample.cfg,這3個文件我們首先要做的就是在這個目錄創(chuàng)建一個zoo.cfg的配置文件，當然你可以把zoo_sample.cfg文件改成zoo.cfg，配置的內(nèi)容如下所示： tickTime=2000 initLimit=5 syncLimit=2 dataDir=xxxx/zookeeper/server1/data dataLogDir=xxx/zookeeper/server1/dataLog clientPort=2181 server.1=127.0.0.1:2888:3888 server.2=127.0.0.1:2889:3889 server.3=127.0.0.1:2890:3890

標紅的幾個配置應該官網(wǎng)講得很清楚了，只是需要注意的是clientPort這個端口如果你是在1臺機器上部署多個server,那么每臺機器都要不同的clientPort，比如我server1是2181,server2是2182，server3是2183，dataDir和dataLogDir也需要區(qū)分下。

最后幾行唯一需要注意的地方就是 server.X 這個數(shù)字就是對應 data/myid中的數(shù)字。你在3個server的myid文件中分別寫入了1，2，3，那么每個server中的zoo.cfg都配server.1,server.2,server.3就OK了。因為在同一臺機器上，后面連著的2個端口3個server都不要一樣，否則端口沖突，其中第一個端口用來集群成員的信息交換，第二個端口是在leader掛掉時專門用來進行選舉leader所用。

進入zookeeper-3.3.2/bin 目錄中，./zkServer.sh start啟動一個server,這時會報大量錯誤？其實沒什么關(guān)系，因為現(xiàn)在集群只起了1臺server，zookeeper服務器端起來會根據(jù)zoo.cfg的服務器列表發(fā)起選舉leader的請求，因為連不上其他機器而報錯，那么當我們起第二個zookeeper實例后，leader將會被選出，從而一致性服務開始可以使用，這是因為3臺機器只要有2臺可用就可以選出leader并且對外提供服務(2n+1臺機器，可以容n臺機器掛掉)。

接下來就可以使用了，我們可以先通過 zookeeper自帶的客戶端交互程序來簡單感受下zookeeper到底做一些什么事情。進入zookeeper-3.3.2/bin（3個server中任意一個）下，./zkCli.sh –server 127.0.0.1:2182,我連的是開著2182端口的機器。

那么，首先我們隨便打個命令，因為zookeeper不認識，他會給出命令的help,如下圖

ls(查看當前節(jié)點數(shù)據(jù)), ls2(查看當前節(jié)點數(shù)據(jù)并能看到更新次數(shù)等數(shù)據(jù)) , create(創(chuàng)建一個節(jié)點) , get(得到一個節(jié)點，包含數(shù)據(jù)和更新次數(shù)等數(shù)據(jù)), set(修改節(jié)點) delete(刪除一個節(jié)點)

通過上述命令實踐，我們可以發(fā)現(xiàn)，zookeeper使用了一個類似文件系統(tǒng)的樹結(jié)構(gòu)，數(shù)據(jù)可以掛在某個節(jié)點上，可以對這個節(jié)點進行刪改。另外我們還發(fā)現(xiàn)，當改動一個節(jié)點的時候，集群中活著的機器都會更新到一致的數(shù)據(jù)。

zookeeper的數(shù)據(jù)模型 在簡單使用了zookeeper之后，我們發(fā)現(xiàn)其數(shù)據(jù)模型有些像操作系統(tǒng)的文件結(jié)構(gòu)，結(jié)構(gòu)如下圖所示

(1) 每個節(jié)點在zookeeper中叫做znode,并且其有一個唯一的路徑標識，如/SERVER2節(jié)點的標識就為/APP3/SERVER2 (2) Znode可以有子znode，并且znode里可以存數(shù)據(jù)，但是EPHEMERAL類型的節(jié)點不能有子節(jié)點 (3) Znode中的數(shù)據(jù)可以有多個版本，比如某一個路徑下存有多個數(shù)據(jù)版本，那么查詢這個路徑下的數(shù)據(jù)就需要帶上版本。 (4) znode 可以是臨時節(jié)點，一旦創(chuàng)建這個 znode 的客戶端與服務器失去聯(lián)系，這個 znode 也將自動刪除，Zookeeper 的客戶端和服務器通信采用長連接方式，每個客戶端和 服務器通過心跳來保持連接，這個連接狀態(tài)稱為 session，如果 znode 是臨時節(jié)點，這個 session 失效，znode 也就刪除了 (5) znode 的目錄名可以自動編號，如 App1 已經(jīng)存在，再創(chuàng)建的話，將會自動命名為 App2 (6) znode 可以被監(jiān)控，包括這個目錄節(jié)點中存儲的數(shù)據(jù)的修改，子節(jié)點目錄的變化等，一旦變化可以通知設置監(jiān)控的客戶端，這個功能是zookeeper對于應用最重要的特性，通過這個特性可以實現(xiàn)的功能包括配置的集中管理，集群管理，分布式鎖等等。

通過java代碼使用zookeeper Zookeeper的使用主要是通過創(chuàng)建其jar包下的Zookeeper實例，并且調(diào)用其接口方法進行的，主要的操作就是對znode的增刪改操作，監(jiān)聽znode的變化以及處理。

以下為主要的API使用和解釋 //創(chuàng)建一個Zookeeper實例，第一個參數(shù)為目標服務器地址和端口，第二個參數(shù)為Session超時時間，第三個為節(jié)點變化時的回調(diào)方法 ZooKeeper zk = new ZooKeeper(“127.0.0.1:2181”, 500000,new Watcher() { // 監(jiān)控所有被觸發(fā)的事件 public void process(WatchedEvent event) { //dosomething } }); //創(chuàng)建一個節(jié)點root，數(shù)據(jù)是mydata,不進行ACL權(quán)限控制，節(jié)點為永久性的(即客戶端shutdown了也不會消失) zk.create(“/root”, “mydata”.getBytes(),Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);

//在root下面創(chuàng)建一個childone znode,數(shù)據(jù)為childone,不進行ACL權(quán)限控制，節(jié)點為永久性的 zk.create(“/root/childone”,”childone”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.PERSISTENT);

//取得/root節(jié)點下的子節(jié)點名稱,返回List zk.getChildren(“/root”,true);

//取得/root/childone節(jié)點下的數(shù)據(jù),返回byte[] zk.getData(“/root/childone”, true, null);

//修改節(jié)點/root/childone下的數(shù)據(jù)，第三個參數(shù)為版本，如果是-1，那會無視被修改的數(shù)據(jù)版本，直接改掉 zk.setData(“/root/childone”,”childonemodify”.getBytes(), -1);

//刪除/root/childone這個節(jié)點，第二個參數(shù)為版本，－1的話直接刪除，無視版本 zk.delete(“/root/childone”, -1);

//關(guān)閉session zk.close();

Zookeeper的主流應用場景實現(xiàn)思路（除去官方示例）

(1)配置管理 集中式的配置管理在應用集群中是非常常見的，一般商業(yè)公司內(nèi)部都會實現(xiàn)一套集中的配置管理中心，應對不同的應用集群對于共享各自配置的需求，并且在配置變更時能夠通知到集群中的每一個機器。

Zookeeper很容易實現(xiàn)這種集中式的配置管理，比如將APP1的所有配置配置到/APP1 znode下，APP1所有機器一啟動就對/APP1這個節(jié)點進行監(jiān)控(zk.exist(“/APP1”,true)),并且實現(xiàn)回調(diào)方法Watcher，那么在zookeeper上/APP1 znode節(jié)點下數(shù)據(jù)發(fā)生變化的時候，每個機器都會收到通知，Watcher方法將會被執(zhí)行，那么應用再取下數(shù)據(jù)即可(zk.getData(“/APP1”,false,null));

以上這個例子只是簡單的粗顆粒度配置監(jiān)控，細顆粒度的數(shù)據(jù)可以進行分層級監(jiān)控，這一切都是可以設計和控制的。 (2)集群管理 應用集群中，我們常常需要讓每一個機器知道集群中（或依賴的其他某一個集群）哪些機器是活著的，并且在集群機器因為宕機，網(wǎng)絡斷鏈等原因能夠不在人工介入的情況下迅速通知到每一個機器。

Zookeeper同樣很容易實現(xiàn)這個功能，比如我在zookeeper服務器端有一個znode叫/APP1SERVERS,那么集群中每一個機器啟動的時候都去這個節(jié)點下創(chuàng)建一個EPHEMERAL類型的節(jié)點，比如server1創(chuàng)建/APP1SERVERS/SERVER1(可以使用ip,保證不重復)，server2創(chuàng)建/APP1SERVERS/SERVER2，然后SERVER1和SERVER2都watch /APP1SERVERS這個父節(jié)點，那么也就是這個父節(jié)點下數(shù)據(jù)或者子節(jié)點變化都會通知對該節(jié)點進行watch的客戶端。因為EPHEMERAL類型節(jié)點有一個很重要的特性，就是客戶端和服務器端連接斷掉或者session過期就會使節(jié)點消失，那么在某一個機器掛掉或者斷鏈的時候，其對應的節(jié)點就會消失，然后集群中所有對/APP1SERVERS進行watch的客戶端都會收到通知，然后取得最新列表即可。

另外有一個應用場景就是集群選master,一旦master掛掉能夠馬上能從slave中選出一個master,實現(xiàn)步驟和前者一樣，只是機器在啟動的時候在APP1SERVERS創(chuàng)建的節(jié)點類型變?yōu)镋PHEMERAL_SEQUENTIAL類型，這樣每個節(jié)點會自動被編號，例如 zk.create(“/testRootPath/testChildPath1”,”1”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL_SEQUENTIAL);

zk.create(“/testRootPath/testChildPath2”,”2”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL_SEQUENTIAL);

zk.create(“/testRootPath/testChildPath3”,”3”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL_SEQUENTIAL);

// 創(chuàng)建一個子目錄節(jié)點 zk.create(“/testRootPath/testChildPath4”,”4”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL_SEQUENTIAL);

System.out.println(zk.getChildren(“/testRootPath”, false));

打印結(jié)果：[testChildPath10000000000, testChildPath20000000001, testChildPath40000000003, testChildPath30000000002]

zk.create(“/testRootPath”, “testRootData”.getBytes(),Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);

// 創(chuàng)建一個子目錄節(jié)點 zk.create(“/testRootPath/testChildPath1”,”1”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL);

zk.create(“/testRootPath/testChildPath2”,”2”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL);

zk.create(“/testRootPath/testChildPath3”,”3”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL);

// 創(chuàng)建一個子目錄節(jié)點 zk.create(“/testRootPath/testChildPath4”,”4”.getBytes(), Ids.OPEN_ACL_UNSAFE,CreateMode.EPHEMERAL);

System.out.println(zk.getChildren(“/testRootPath”, false));

打印結(jié)果:[testChildPath2, testChildPath1, testChildPath4, testChildPath3]

我們默認規(guī)定編號最小的為master,所以當我們對/APP1SERVERS節(jié)點做監(jiān)控的時候，得到服務器列表，只要所有集群機器邏輯認為最小編號節(jié)點為master，那么master就被選出，而這個master宕機的時候，相應的znode會消失，然后新的服務器列表就被推送到客戶端，然后每個節(jié)點邏輯認為最小編號節(jié)點為master，這樣就做到動態(tài)master選舉。

總結(jié) 我們初步使用了一下zookeeper并且嘗試著描述了幾種應用場景的具體實現(xiàn)思路，接下來的文章，我們會嘗試著去探究一下zookeeper的高可用性與leaderElection算法。 參考：http://www.ibm.com/developerworks/cn/opensource/os-cn-zookeeper/ http://hadoop.apache.org/zookeeper/docs/current/