zookeeper集群的安装以及遇到的问题

一、介绍

zookeeper集群的安装网上有很多很好的文章,我也是参考那些文章来做的,这里写这篇文章的目的一方面是为了自己学习记忆和以后查找方便,另一方面希望帮助其他有需要的同学共同学习。因为其他的文章只写了安装过程,并没有给出下载地址,在安装过程中需要自己去找,所以我这里主要是给出了安装zookeeper的下载地址,由于网络的限制,推荐使用的是清华开源镜像下载,网速非常快。

  • 操作系统:centos7

二、安装前准备

1. 下载jdk

  • 点击这里下载
  • 解压到/opt目录
tar -zxvf jdk-8u191-linux-x64.tar.gz -C /opt
  • 配置环境变量
# 编辑profile文件
vi /etc/profile
# 在profile文件末尾添加JAVA_HOME路径
export JAVA_HOME=/opt/jdk1.8.0_191
export PATH=$PATH:$JAVA_HOME/bin
  • 使用如下命令让配置生效
source /etc/profile
  • 验证java安装成功
# 1、查看版本,出现版本号说明java安装成功
java -version
#2、 直接通过jps验证
jps

2. 下载zookeeper(为了提高下载速度推荐使用清华开源镜像下载)

  • 点击这里选择下载指定的zookeeper版本
  • 复制tar包的下载地址,通过下面的命令下载
wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.4.14/zookeeper-3.4.14.tar.gz
  • 解压到/opt目录
tar -zxvf zookeeper-3.4.14.tar.gz -C /opt
  • 修改zookeeper配置文件,需要将zoo_sample.cfg文件复制一份命名为zoo.cfg
# 进入zookeeper配置文件目录
 cd /opt/zookeeper-3.4.14/conf
# 将zoo_sample.cfg文件复制一份命名为zoo.cfg
cp zoo_sample.cfg  zoo.cfg
# 修改zoo.cfg
vi zoo.cfg
  • zookeeper的配置文件zoo.cfg说明
# The number of milliseconds of each tick
# 每一次心跳间隔时间,时间单位是毫秒
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
# 初始的同步阶段可以接受的心跳次数,这里可以接受的时间间隔为:10*2000 =20秒
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
# 在发送请求和获取确认之间可以传递的心跳数,这里时间间隔为:5*2000=10秒
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
# 快照存储的目录,不要使用/tmp存储,/tmp在这里只是作为例子的缘故。
dataDir=/tmp/zookeeper
# the port at which the clients will connect
# 客户端将连接的端口
clientPort=2181
# zookeeper集群的配置
server.1=node01:2888:3888
server.2=node02:2888:3888
server.3=node03:2888:3888

server.A=B:C:D其中 A 是一个数字,表示这个是第几号服务器;B 是这个服务器的 ip 地址;C 表示的是这个服务器与集群中的 Leader 服务器交换信息的端口;D 表示的是万一集群中的 Leader 服务器挂了,需要一个端口来重新进行选举,选出一个新的 Leader,而这个端口就是用来执行选举时服务器相互通信的端口。如果是伪集群的配置方式,由于 B 都是一样,所以不同的 Zookeeper 实例通信端口号不能一样,所以要给它们分配不同的端口号。

三、zookeeper集群配置

除了修改zoo.cfg 配置文件,集群模式下还要配置一个文件myid,这个文件在 dataDir 目录下,这个文件里面就有一个数据就是 A 的值,zookeeper 启动时会读取这个文件拿到里面的数据与 zoo.cfg 里面的配置信息比较从而判断到底是那个 server。

  • 配置域名,在/etc/hosts文件中添加如下内容(设置自己机器的ip和域名)
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.120.11 node01
192.168.120.12 node02
192.168.120.13 node03
  • 将配置好的文件拷贝到另外两个服务器对应的目录下(为了方便拷贝,可以设置linux免密登录
# 拷贝/etc/hosts文件
scp /etc/hosts node02:/etc/hosts
scp /etc/hosts node03:/etc/hosts
# 拷贝/etc/profile
scp /etc/profile node02:/etc/profile
scp /etc/profile node03:/etc/profile
# 拷贝/opt/zookeeper,因为是拷贝文件夹所以需要添加`-r`
scp -r /opt/zookeeper-3.4.14 node02:/opt
scp -r /opt/zookeeper-3.4.14 node03:/opt
  • 配置myid文件
    然后开始配置myid文件,这个文件存放的路径由zoo.cfg配置文件中的dataDir来指定,我这里是/tmp/zookeeper,在这三台服务器上的/tmp/zookeeper目录下创建myid文件,里面填入相应的id号,这个id主要是zk节点编号,用来区分不同的zk节点。
  • 启动zookeeper
    配置好了之后,我们开始启动zookeeper,在三个服务器节点分别执行如下命令
# 进入zookeeper的bin目录
cd /opt/zookeeper-3.4.14/bin
# 启动zookeeper
./zkServer.sh start
# 查看zookeeper状态
./zkServer.sh status
  • 如果启动成功,会显示如下内容


    follower从节点

    leader主节点

四、遇到的问题

  • 使用./zkServer.sh status显示如下信息
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper/zookeeper-3.4.12/bin/../conf/zoo.cfg
Error contacting service. It is probably not running.
  • 遇到问题首先需要查看日志
    使用如下命令,在当前目录生成日志文件zookeeper.out
# 重新启动,会在当前目录生成zookeeper.out文件
./zkServer.sh restart
# 查看zookeeper.out文件
cat zookeeper.out

可以看到如下报错

WARN  [WorkerSender[myid=1]:QuorumCnxManager@584] - Cannot open channel to 3 at election address /192.168.120.13:3888
java.net.ConnectException: Connection refused (Connection refused)
    at java.net.PlainSocketImpl.socketConnect(Native Method)
    at java.net.AbstractPlainSocketImpl.doConnect(AbstractPlainSocketImpl.java:350)
    at java.net.AbstractPlainSocketImpl.connectToAddress(AbstractPlainSocketImpl.java:206)
    at java.net.AbstractPlainSocketImpl.connect(AbstractPlainSocketImpl.java:188)
    at java.net.SocksSocketImpl.connect(SocksSocketImpl.java:392)
    at java.net.Socket.connect(Socket.java:589)
    at org.apache.zookeeper.server.quorum.Learner.connectToLeader(Learner.java:229)
    at org.apache.zookeeper.server.quorum.Follower.followLeader(Follower.java:72)
    at org.apache.zookeeper.server.quorum.QuorumPeer.run(QuorumPeer.java:981)
  • 我这里的解决方法是关闭服务器的防火墙
# 查看防火墙的状态
systemctl status firewalld.service
# 关闭防火墙
systemctl stop firewalld.service
# 禁止开机启动防火墙
systemctl disable firewalld.service
防火墙状态
  • 再次查看防火墙状态


    防护墙关闭
  • 查看zookeeper的状态,已经正常启动了


    zookeeper状态

其他zookeeper问题

  1. 一台 zk 节点重启后始终无法加入到集群中, 无法对外提供服务
  2. zk的log和snapshot占用大量空间
  3. 某台客户端上有的进程可以连接到zk, 有的无法连接
  4. 一台zk服务器无法对外提供服务,报错"Have smaller server identifier, so dropping
    the connection."
  5. zk客户端偶尔无法成功连接到zk server
解决方法查看这篇文章Zookeeper运维问题集锦
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,546评论 6 507
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,224评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,911评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,737评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,753评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,598评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,338评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,249评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,696评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,888评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,013评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,731评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,348评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,929评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,048评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,203评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,960评论 2 355

推荐阅读更多精彩内容