zookeeper + kafka 集群搭建

今天版本已提测,有些空余时间可以拿到折腾,刚好手里有一台云服务器,最近也温习了下zk+kafka的相关资料,于是决定动手搭一套zk集群+kafka集群,毕竟只有一台机器,可以理解是个伪集群,但搭建的方式是差不多的。

软件准备

JDK 8

下载地址:https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html

Zookeeper

下载地址:https://archive.apache.org/dist/zookeeper/
选了一个比较新的版本,3.4.10

Kafka

下载地址:http://kafka.apache.org/downloads
选了一个比较老的版本,0.11.0.3 (随意选的)

软件安装

JDK 8

很简单,下载后解压到指定目录(建议放在/usr/local/目录下),然后配置下环境变量。
解压命令:tar zxvf xxxx.tar.gz
配置生效命令:source /etc/profile

Zookeeper集群搭建

因为kafka依赖zookeeper,所以先搭建zookeeper。
解压下载的压缩包到指定目录,并将解压目录复制两份,因zk要求>n/2个节点存活才能提供服务,所以至少要部署3个节点,预留1个容错节点。

  • 目录结构


    zk.png
  • 核心配置1({ZK_HOME}/conf/zoo.cfg)

# 数据和日志目录
dataDir=/usr/local/zookeeper/zookeeper-3.4.10/data
dataLogDir=/usr/local/zookeeper/zookeeper-3.4.10/logs
# 端口
clientPort=2181
#设置集群的服务id,myid文件中的数字
server.1=127.0.0.1:2888:3888
server.2=127.0.0.1:2889:3889
server.3=127.0.0.1:2890:3890
  • 核心配置2 (${dataDir}/myid)
# 比如server.1的则为1
${serverId} 
  • 启动&校验
    启动:
    ${ZK_HOME}/bin/zkServer.sh start
    校验:
    ps -ef | grep "zookeeper" (查看进程是否起来) 或者 netstat -anp | grep "${port}" (查看端口号是否绑定)
    查看状态:
    ${ZK_HOME}/bin/zkServer.sh status
    停止:
    ${ZK_HOME}/bin/zkServer.sh stop

KafKa集群搭建

kafka自带zookeeper,这里我们不使用自带的,解压和复制步骤同zookeeper。

  • 目录结构


    kafka.png
  • 核心配置(${KAFKA_HOME}/config/server.properties)
# broker id
broker.id=1
# 内网访问,${port}需修改
listeners=PLAINTEXT://0.0.0.0:${port}
# 提供给外网访问,优先级高于listeners配置,${IP}${port}需要根据真实IP修改
advertised.listeners=PLAINTEXT://${IP}:${port}
# zookeeper集群
zookeeper.connect=127.0.0.1:2181,127.0.0.1:2182,127.0.0.1:2183
# 日志目录
log.dirs=/tmp/kafka-logs1
  • 启动&校验

    启动:
    .${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${${KAFKA_HOME}}/config/server.properties
    校验:
    ps -ef | grep "kafka" (查看进程是否起来) 或者 netstat -anp | grep "${port}" (查看端口号是否绑定)
    停止:
    .${KAFKA_HOME}/bin/kafka-server-stop.sh
  • 官网文档地址

Java Client访问

框架:spring boot + kafka

本来自己新建了一个项目引入了spring-boot相关jar包,结果启动出现了部分兼容性问题,为节约时间,直接在github上拿了一个小哥哥的项目验证,顺带贴下他的文章地址:https://blog.csdn.net/C1041067258/article/details/90721545,改下配置就能启动。

结尾彩带

推荐几个软件
kafka GUI:kafka tool
zookeeper GUI:idea插件zoolytic

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 221,430评论 6 515
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,406评论 3 398
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 167,834评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,543评论 1 296
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,547评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,196评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,776评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,671评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,221评论 1 320
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,303评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,444评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,134评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,810评论 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,285评论 0 24
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,399评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,837评论 3 376
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,455评论 2 359