ZooKeeper 安装配置

一. ZooKeeper的搭建方式

安装方式有三种：

• 单机模式
  
  • 只运行在一台服务器上，适合测试环境
• 伪集群模式
  
  • 一个物理机器上运行多个ZooKeeper
• 集群模式
  
  • 运行于一个集群上，适合生产环境

ZooKeeper通过复制来实现高可用性，只要集合数中半数以上的机器处于可用状态，就可以保证服务继续。

之所以要超过半数，设计到ZooKeeper的复制策略，保证对Znode树的每一个修改都会被复制到集合体中超过半数的机器上。

1.1 单机模式的搭建

配置文件

在conf目录下删除zoo_sample.cfg文件，创建一个配置文件zoo.cfg

tickTime=2000dataDir=/usr/local/zk/datadataLogDir=/usr/local/zk/dataLog        clientPort=2181

环境变量

在/etc/profile文件中加入如下内容：

export ZOOKEEPER_HOME=/usr/local/zkexport PATH=.:$HADOOP_HOME/bin:$ZOOKEEPER_HOME/bin:$JAVA_HOME/bin:$PATH

这样启动ZooKeeper的服务端zkServer.sh start，关闭ZooKeeper的客户端zkServer.sh stop

1.2 ZooKeeper的伪集群模式搭建

伪集群就是把不同节点运行在同一台机器上。在伪分布式模式下Hadoop的操作和分布式模式下有很大的不同，但是伪集群下对ZooKeeper的操作和在集群模式下没有本质的分别。

比如在一台机器上部署三个服务端，要保证每个配置文件的端口号clientPort，dataDir，以及myid都不能相同

• clientPort端口：比如server1是2181，server2是2182，server3是2183
• dataDir和dataLogDir：dataDir和dataLogDir也需要区分下，将数据文件和日志文件分开存放，同时每个server的这两变量所对应的路径都是不同的
• server.X和myid： server.X 这个数字就是对应，data/myid中的数字。在3个server的myid文件中分别写入了0，1，2，那么每个server中的zoo.cfg都配 server.0 server.2,server.3就行了。因为在同一台机器上，后面连着的2个端口，3个server都不要一样，否则端口冲突

zoo1.cfg

# The number of milliseconds of each ticktickTime=2000# The number of ticks that the initial# synchronization phase can takeinitLimit=10# The number of ticks that can pass between# sending a request and getting an acknowledgementsyncLimit=5# the directory where the snapshot is stored.dataDir=/usr/local/zk/data_1# the port at which the clients will connectclientPort=2181#the location of the log filedataLogDir=/usr/local/zk/logs_1server.0=localhost:2287:3387server.1=localhost:2288:3388server.2=localhost:2289:3389

zoo2.cfg

# The number of milliseconds of each ticktickTime=2000# The number of ticks that the initial# synchronization phase can takeinitLimit=10# The number of ticks that can pass between# sending a request and getting an acknowledgementsyncLimit=5# the directory where the snapshot is stored.dataDir=/usr/local/zk/data_2# the port at which the clients will connectclientPort=2182#the location of the log filedataLogDir=/usr/local/zk/logs_2server.0=localhost:2287:3387server.1=localhost:2288:3388server.2=localhost:2289:3389

zoo3.cfg

# The number of milliseconds of each ticktickTime=2000# The number of ticks that the initial# synchronization phase can takeinitLimit=10# The number of ticks that can pass between# sending a request and getting an acknowledgementsyncLimit=5# the directory where the snapshot is stored.dataDir=/usr/local/zk/data_3# the port at which the clients will connectclientPort=2183#the location of the log filedataLogDir=/usr/local/zk/logs_3server.0=localhost:2287:3387server.1=localhost:2288:3388server.2=localhost:2289:3389zkServer.sh start zoo1.shzkServer.sh start zoo2.shzkServer.sh start zoo3.sh

启动过程如图所示

启动结果，如下图所示：

在运行完第一条指令之后，会出现一些错误异常，产生异常信息的原因是由于Zookeeper服务的每个实例都拥有全局配置信息，他们在启动的时候会随时随地的进行Leader选举操作。此时，第一个启动的Zookeeper需要和另外两个Zookeeper实例进行通信。但是，另外两个Zookeeper实例还没有启动起来，因此就产生了这的异样信息。我们直接将其忽略即可，待把图中“2号”和“3号”Zookeeper实例启动起来之后，相应的异常信息自然会消失。此时，可以通过下面三条命令，来查询。

 zkServer.sh status zoo1.cfg zkServer.sh status zoo2.cfg zkServer.sh status zoo3.cfg

Zookeeper服务的运行状态，如下图所示:

1.3 ZooKeeper的集群模式搭建

为了获得可靠地Zookeeper服务，用户应该在一个机群上部署Zookeeper。只要机群上大多数的Zookeeper服务启动了，那么总的Zookeeper服务将是可用的。集群的配置方式，和前两种类似，同样需要进行环境变量的配置。在每台机器上conf/zoo.cf配置文件的参数设置相同

创建myid

在dataDir(/usr/local/zk/data)目录创建myid文件

Server0机器的内容为：0Server1机器的内容为：1Server2机器的内容为：2

编写配置文件

在conf目录下删除zoo_sample.cfg文件，创建一个配置文件zoo.cfg，如下所示,代码清单 zoo.cfg中的参数设置

# The number of milliseconds of each ticktickTime=2000# The number of ticks that the initial# synchronization phase can takeinitLimit=10# The number of ticks that can pass between# sending a request and getting an acknowledgementsyncLimit=5# the directory where the snapshot is stored.dataDir=/usr/local/zk/data# the port at which the clients will connectclientPort=2183#the location of the log filedataLogDir=/usr/local/zk/logserver.0=hadoop:2288:3388server.1=hadoop0:2288:3388server.2=hadoop1:2288:3388

启动

分别在3台机器上启动ZooKeeper的Server：zkServer.sh start

二. ZooKeeper的配置

ZooKeeper的功能特性是通过ZooKeeper配置文件来进行控制管理的（zoo.cfg），这样的配置方式使得在部署ZooKeeper服务的时候非常方便，如果服务器使用不同的配置文件，保证服务器列表匹配就行了

在设置Zookeeper配置文档时候，某些参数是可选的，某些是必须的。这些必须参数就构成了Zookeeper配置文档的最低配置要求。另外，若要对Zookeeper进行更详细的配置，可以参考下面的内容。

2.1 基本配置

下面是最低配置要求中必须配置的参数：

1. client: 监听客户端连接的端口
2. tickTime: 基本事件单元，是服务器和服务器之间或者客户端和服务器之间维持心跳的时间间隔。每个tickTime时间就会发送一个心跳。最小的session过期时间为2倍tickTime.
3. dataDir: 存储内存中数据库快照的位置，如果不设置参数，更新事务的日志会被存储到默认位置

2.2 高级配置

下面是高级配置参数中可选配置参数，用户可以使用下面的参数来更好的规定Zookeeper的行为：

1. dataLogDir

这个操作让管理机器把事务日志写入”dataLogDir”所指定的目录中，而不是”dataDir”所指定的目录。这将允许使用一个专用的日志设备，帮助我们避免日志和快照的竞争。配置如下：

# the directory where the snapshot is storeddataDir=/usr/local/zk/data　

2. maxClientCnxns

限制连接的ZooKeeper的客户端数量，并限制并发连接的数量，通过IP来区分不同的客户端。此配置选项可以阻止某些类别的Dos攻击，将他设置为零或忽略不进行设置将会取消对并发连接的限制。

例如，此时我们将maxClientCnxns的值设为1，如下所示：

# set maxClientCnxnsmaxClientCnxns=1

启动Zookeeper之后，首先用一个客户端连接到Zookeeper服务器上。之后如果有第二个客户端尝试对Zookeeper进行连接，或者有某些隐式的对客户端的连接操作，将会触发Zookeeper的上述配置。

3. minSessionTimeout和maxSessionTimeout

最小会话超时时间和最大会话超时时间，默认情况下minSessionTimeout=2*tickTime；maxSession=20*tickTime。

2.3 集群配置

1. initLimit

此配置表示，允许follower(相对于Leaderer言的“客户端”)连接并同步到Leader的初始化连接时间，以tickTime为单位。当初始化连接时间超过该值，则表示连接失败

2. syncLimit

此配置项表示Leader和Follower之间发送消息时，请求和应答时间长度。如果follower在设置时间内无法和leader通信，该follower将会被丢弃

3. server.A=B:C:D

A：其中 A 是一个数字，表示这个是服务器的编号；B：是这个服务器的 ip 地址；C：Leader选举的端口；D：Zookeeper服务器之间通信端口

4. myid和zoo.cfg

除了修改 zoo.cfg 配置文件，集群模式下还要配置一个文件 myid，这个文件在 dataDir 目录下，这个文件里面就有一个数据就是 A 的值，Zookeeper 启动时会读取这个文件，拿到里面的数据与 zoo.cfg 里面的配置信息比较从而判断到底是那个 server。

三. 搭建ZooKeeper服务器集群

搭建要求：

(1) zk服务器集群规模不小于3个节点
(2) 要求各服务器之间系统时间要保持一致。

3.1 安装配置ZK

(1) 使用WinScp将Zk传输到Hadoop主机上的/usr/local，我用的版本是zookeeper-3.4.5.tar.gz。

(2) 在hadoop的/usr/local目录下，解压缩zk….tar.gz，设置环境变量

解压缩：在/usr/local目录下，执行命令：tar -zxvf zookeeper-3.4.5.tar.gz，如下图所示:

重命名：解压后将文件夹，重命名为zk，执行命令： mv zookeeper-3.4.5 zk，如下图所示:

设置环境变量：执行命令： vi /etc/profile ，添加 ：export ZOOKEEPER_HOME=/usr/local/zk，如图2.3所示的内容。执行命令：source /etc/profile 如下图所示:

2. 修改ZK配置文件

(1) 重命名：将/usr/local/zk/conf目录下zoo_sample.cfg，重命名为zoo.cfg，执行命令：mv zoo_sample.cfg zoo.cfg。如如下图所示:

(2) 查看：在/usr/local/zk/conf目录下，修改文件 vi zoo.cfg，文件内容如下图所示。在该文件中dataDir表示文件存放目录，它的默认设置为/tmp/zookeeper这是一个临时存放目录，每次重启后会丢失，在这我们自己设一个目录，/usr/local/zk/data。

(3) 创建文件夹：mkdir /usr/local/zk/data

(4) 创建myid：在data目录下，创建文件myid，值为0；vi myid ;内容为0。

(5) 编辑：编辑该文件，执行vi zoo.cfg ，修改dataDir=/usr/local/zk/data。

新增：

server.0=hadoop:2888:3888server.1=hadoop0:2888:3888server.2=hadoop1:2888:3888

tickTime ：这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳；

dataDir：顾名思义就是 Zookeeper 保存数据的目录，默认情况下，Zookeeper 将写数据的日志文件也保存在这个目录里；

clientPort：这个端口就是客户端连接 Zookeeper 服务器的端口，Zookeeper 会监听这个端口，接受客户端的访问请求。

当这些配置项配置好后，就可以启动 Zookeeper 了，启动后使用命令echo ruok | nc localhost 2181检查 Zookeeper 是否已经在服务。

2.3 配置其他节点

(1) 把haooop主机的zk目录和/etc/profile目录，复制到hadoop0和hadoop1中。执行命令：

scp -r /usr/local/zk/ hadoop0:/usr/local/scp -r /usr/local/zk/ hadoop1:/usr/local/scp /etc/profile hadoop0:/etc/scp /etc/profile hadoop1:/etc/ssh hadoop0suorce /etc/profilevi /usr/local/zk/data/myidexitssh hadoop1suorce /etc/profilevi /usr/local/zk/data/myidexit

(2) 把hadoop1中相应的myid的值改为1，把hadoop2中相应的myid的值改为2。　　　

四. 启动检验

(1) 启动，在三个节点上分别执行命令zkServer.sh start

hadoop节点：

hadoop0节点：

hadoop1节点：

(2) 检验，在三个节点上分别执行命令zkServer.sh status，从下面的图中我们会发现hadoop和hadoop1为Follower，hadoop0为Leader。

hadoop节点：

hadoop0节点：

hadoop1节点：