Hadoop分布式 之Zookeeper集群安装
来源:互联网 发布:如何判断网络是否连通 编辑:程序博客网 时间:2024/05/21 06:38
ZooKeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。ZooKeeper本身可以以Standalone模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来保证ZooKeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。
zookeeper集群部署环境
- ubuntu-16.04.1-server * 3(做3主机的集群)
- 主机名:hadoopm、hadoop_s1、hadoop_s2
- 分布式:Hadoop2.7 集群
- zookeeper安装包:zookeeper-3.4.5.tar.gz
Zookeeper集群的配置需要奇数台机器,一个为leader,其他为follower,这里选择最小的3台机器作为集群。
ZooKeeper Standalone模式
- 从Apache网站上(zookeeper.apache.org)下载ZooKeeper软件包
- 解压安装包到指定位置:tar -zxvf zookeeper-3.4.5.tar.gz -C /usr/local/。
我解压在/usr/local/目录下,jdk、Hadoop均安装在此目录,方便管理。 - 修改配置内容:
将zookeeper-3.4.5/conf目录下面的 zoo_sample.cfg复制一份改名为zoo.cfg
cp zoo_sample.cfg zoo.cfg
# The number of milliseconds of each ticktickTime=2000# The number of ticks that the initial # synchronization phase can takeinitLimit=5# The number of ticks that can pass between # sending a request and getting an acknowledgementsyncLimit=2# the directory where the snapshot is stored.# do not use /tmp for storage, /tmp here is just # example sakes.dataDir=/root/zookeeper/data# the port at which the clients will connectclientPort=2181
启动ZooKeeper单节点服务器进程,查看是否正常
在Zookeeper目录下的bin文件加下,存放着各种操作命令,如下:
其中.sh均为linux系统下的命令,.cmd为windows系统下命令,zkCli.sh是启动zookeeper客户端命令。
启动:
cd /zookeeper-3.4.5/bin
./zkServer.sh start使用jps查看进程,会发现多出来一条QuorumPeerMain进程。
ZooKeeper Distributed模式
在有了单节点的zookeeper后,配置zookeeper分布式只需再次基础上做出修改即好。
- 增加ZooKeeper配置文件
在conf/zoo.cfg中增加配置信息:
server.1=hadoopm:2888:3888 server.2=hadoop_s1:2888:3888 server.3=hadoop_s2:2888:3888
server后面的数字即为各个zookeeper的编号,在后面需要为zookeeper设置编号。
- 远程复制分发安装文件
在zookeeper存储目录下(/usr/local/),将配置好的文件zookeeper-3.4.5通过scp命令发送到集群的其他主机:
scp -r zookeeper-3.4.5/ root@hadoop_s1:/usr/localscp -r zookeeper-3.4.5/ root@hadoop_s2:/usr/local
- 设置myid
在我们配置的dataDir指定的目录下面,创建一个myid文件,里面内容为一个数字,用来标识当前主机,conf/zoo.cfg文件中配置的server.X中X即为此数字。
root@hadoopm:echo "1" > /root/zookeeper/data/myidroot@hadoop_s1:echo "2" > /root/zookeeper/data/myidroot@hadoop_s2:echo "3" > /root/zookeeper/data/myid
- 启动ZooKeeper集群
依次在各个节点启动Zookeeper,然后可以用./zkServer.sh status来查看状态
root@hadoopm:/usr/local/zookeeper-3.4.5/bin# ./zkServer.sh statusJMX enabled by defaultUsing config: /usr/local/zookeeper-3.4.5/bin/../conf/zoo.cfgMode: followerroot@hadoop_s1:/usr/local/zookeeper-3.4.5/bin# ./zkServer.sh statusJMX enabled by defaultUsing config: /usr/local/zookeeper-3.4.5/bin/../conf/zoo.cfgMode: leaderroot@hadoop_s2:/usr/local/zookeeper-3.4.5/bin# ./zkServer.sh statusJMX enabled by defaultUsing config: /usr/local/zookeeper-3.4.5/bin/../conf/zoo.cfgMode: follower
至此,Zookeeper集群安装完毕,可以为以后的Hbase集群等工作打下基础。
参考:ZooKeeper-3.3.4集群安装配置
阅读全文
0 0
- Hadoop分布式 之Zookeeper集群安装
- Hadoop完全分布式集群安装zookeeper集群
- zookeeper 分布式集群安装
- zookeeper分布式集群安装
- Hadoop学习之zookeeper(集群安装)
- Hadoop集群之zookeeper安装配置
- hadoop分布式安装zookeeper
- 【异常】Hadoop分布式集群搭建之zookeeper故障
- 完全分布式hadoop集群安装之三:hadoop集群配置
- hadoop 分布式集群安装
- hadoop分布式集群安装
- Hadoop分布式集群安装
- Hadoop分布式集群安装
- Hadoop分布式集群安装
- zookeeper伪分布式集群安装
- zookeeper 分布式集群模式安装
- ZooKeeper伪分布式集群安装
- Zookeeper分布式集群安装教程
- 关于视频播放
- Redis源码剖析和注释(二十八)--- Redis 事务实现和乐观锁
- Quartz定时调度CronTrigger时间配置规则
- C#--委托
- 学生管理系统
- Hadoop分布式 之Zookeeper集群安装
- 汇编语言 实验14 访问CMOS RAM
- 什么是html总结
- 重构-改善既有代码的设计 读后感
- 复习
- springboot下webservice使用cxf jar包报错及解决
- android Activity 页面传值
- linux释放占用端口
- Java实践(二)---多态性