ZooKeeper简介

来源:互联网 发布:数据库的作用是什么 编辑:程序博客网 时间:2024/05/22 17:27

1. ZooKeeper简介

1.1 角色

这里写图片描述

1.2 系统模型

这里写图片描述

2. 工作原理

Zookeeper 的核心是原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式:恢复模式(选主)和 广播模式(同步)。当服务启动或者在领导者崩溃后,Zab就进入了恢复模式,当领导者被选举出来,且大多数Server完成了和leader的状态同步以 后,恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

为 了保证事务的顺序一致性,zookeeper采用了递增的事务id号(zxid)来标识事务。所有的提议(proposal)都在被提出的时候加上了 zxid。实现中zxid是一个64位的数字,它高32位是epoch用来标识leader关系是否改变,每次一个leader被选出来,它都会有一个新的epoch,标识当前属于那个leader的统治时期。低32位用于递增计数。

每个Server在工作过程中有四种状态:

状态 描述 LOOKING 当前Server不知道leader是谁,正在搜寻 LEADING 当前Server即为选举出来的leader FOLLOWING leader已经选举出来,当前Server与之同步 OBSERVING observer的行为在大多数情况下与follower完全一致,但是他们不参加选举和投票,而仅仅接受(observing)选举和投票的结果。

2.1 选主流程

2.1.1 basic paxos选举算法

这里写图片描述

2.1.2 fast paxos选举算法

这里写图片描述

2.2 同步流程

  1. leader等待server连接;

  2. Follower连接leader,将最大的zxid发送给leader;

  3. Leader根据follower的zxid确定同步点;

  4. 完成同步后通知follower 已经成为uptodate状态;

  5. Follower收到uptodate消息后,又可以重新接受client的请求进行服务了。

2.3 工作流程

2.3.1 Leader

Leader主要有三个功能:

  1. 恢复数据;

  2. 维持与Learner的心跳,接收Learner请求并判断Learner的请求消息类型;

  3. Learner的消息类型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息,根据不同的消息类型,进行不同的处理。

类型 说明 PING Learner的心跳信息 REQUEST Follower发送的提议信息,包括写请求及同步请求 ACK Follower的对提议 的回复,超过半数的Follower通过,则commit该提议 REVALIDATE 用来延长SESSION有效时间

2.3.2 Follower

Follower主要有四个功能:

  1. 向Leader发送请求(PING消息、REQUEST消息、ACK消息、REVALIDATE消息);

  2. 接收Leader消息并进行处理;

  3. 接收Client的请求,如果为写请求,发送给Leader进行投票;

  4. 返回Client结果。

类型 说明 PING Learner的心跳信息 PROPOSAL Leader发起的提案,要求Follower投票 COMMIT 服务器端最新一次提案的信息 UPTODATE 表明同步完成 REVALIDATE 根据Leader的REVALIDATE结果,关闭待revalidate的session还是允许其接受消息 SYNC 返回SYNC结果到客户端,这个消息最初由客户端发起,用来强制得到最新的更新

3. ZooKeeper 典型的应用场景

Zookeeper 从设计模式角度来看,是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper 就将负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应,从而实现集群中类似 Master/Slave 管理模式。

3.1 统一命名服务(Name Service)

分布式应用中,通常需要有一套完整的命名规则,既能够产生唯一的名称又便于人识别和记住,通常情况下用树形的名称结构是一个理想的选择,树形的名称结构是一个有层次的目录结构,既对人友好又不会重复。说到这里你可能想到了 JNDI,没错 Zookeeper 的 Name Service 与 JNDI 能够完成的功能是差不多的,它们都是将有层次的目录结构关联到一定资源上,但是 Zookeeper 的 Name Service 更加是广泛意义上的关联,也许你并不需要将名称关联到特定资源上,你可能只需要一个不会重复名称,就像数据库中产生一个唯一的数字主键一样。

Name Service 已经是 Zookeeper 内置的功能,你只要调用 Zookeeper 的 API 就能实现。如调用 create 接口就可以很容易创建一个目录节点。

3.2 配置管理(Configuration Management)

配置的管理在分布式应用环境中很常见,例如同一个应用系统需要多台 PC Server 运行,但是它们运行的应用系统的某些配置项是相同的,如果要修改这些相同的配置项,那么就必须同时修改每台运行这个应用系统的 PC Server,这样非常麻烦而且容易出错。

像这样的配置信息完全可以交给 Zookeeper 来管理,将配置信息保存在 Zookeeper 的某个目录节点中,然后将所有需要修改的应用机器监控配置信息的状态,一旦配置信息发生变化,每台应用机器就会收到 Zookeeper 的通知,然后从 Zookeeper 获取新的配置信息应用到系统中。

3.3 集群管理(Group Membership)

Zookeeper 能够很容易的实现集群管理的功能,如有多台 Server 组成一个服务集群,那么必须要一个“总管”知道当前集群中每台机器的服务状态,一旦有机器不能提供服务,集群中其它集群必须知道,从而做出调整重新分配服务策略。同样当增加集群的服务能力时,就会增加一台或多台 Server,同样也必须让“总管”知道。

Zookeeper 不仅能够帮你维护当前的集群中机器的服务状态,而且能够帮你选出一个“总管”,让这个总管来管理集群,这就是 Zookeeper 的另一个功能 Leader Election。

3.4 共享锁(Locks)

共享锁在同一个进程中很容易实现,但是在跨进程或者在不同 Server 之间就不好实现了。Zookeeper 却很容易实现这个功能,实现方式也是需要获得锁的 Server 创建一个 EPHEMERAL_SEQUENTIAL 目录节点,然后调用 getChildren方法获取当前的目录节点列表中最小的目录节点是不是就是自己创建的目录节点,如果正是自己创建的,那么它就获得了这个锁,如果不是那么它就调用 exists(String path, boolean watch) 方法并监控 Zookeeper 上目录节点列表的变化,一直到自己创建的节点是列表中最小编号的目录节点,从而获得锁,释放锁很简单,只要删除前面它自己所创建的目录节点就行了。

4. 总结

Zookeeper 作为 Hadoop 项目中的一个子项目,是 Hadoop 集群管理的一个必不可少的模块,它主要用来控制集群中的数据,如它管理 Hadoop 集群中的 NameNode,还有 Hbase 中 Master Election、Server 之间状态同步等。

图例是在ZooKeeper管理的HBase

这里写图片描述

5. 参考

  1. zookeeper初识之原理

  2. 分布式服务框架 Zookeeper – 管理分布式环境中的数据

0 0
原创粉丝点击