Kafka 3nodes集群部署步骤

一. 准备工作:

    1. 准备3台机器,IP地址分别为:

          192.168.3.230(master)
          192.168.3.233(slave1)
          192.168.3.234(slave2)

    2. 下载kafka稳定版本,我的版本为:Scala 2.11  - kafka_2.11-0.9.0.0.tgz

        http://kafka.apache.org/downloads.html

    3. 分别解压放入到想安装的目录下,我的目录为:/home/rasa 解压命令为:

        tar -xzf *.tgz


二、搭建zookeeper集群

    1. 分别修改三台机器的hosts,加入

     192.168.3.230 master

     192.168.3.233 slave1

     192.168.3.234 slave2

    2. 进入解压后的目录/home/rasa/kafka_2.11-0.9.0.0

    2. 进入config目录下,修改zookeeper.properties文件(所有机器相同)

        tickTime =2000

        dataDir =/data/zookeeper/

        clientPort =2181

        initLimit =5

        syncLimit =2

        server.1 =master:2888:3888

        server.2 =slave1:2888:3888

        server.3 =slave2:2888:3888


    3.在dataDir目录/data/zookeeper/下写一个myid文件,命令如下:

        echo 1 >myid

        注意:这个id是zookeeper的主机标示,每个主机id不同第二台是2 第三台是3。


    4.逐次启动3台机器的zookeeper 构成一个集群:

        > bin/zookeeper-server-start.sh config/zookeeper.properties &

        由于ZooKeeper集群启动的时候,每个结点都试图去连接集群中的其它结点,先启动的肯定连不上后面还没启动的,所以打印出来的部分的异常是可以忽略的。集群在选出一个Leader后,最后稳定了。其他结点可能也出现类似问题,属于正常。


三、搭建kafka集群

    1.进入config目录,修改server.properties(逐个机器修改)

        broker.id =1(其他机器为 2/3)

        port =9092

        zookeeper.connect=master:2181,slave1:2181,slave2:2181

        log.dirs =/home/rasa/kafka-logs

        host.name =192.168.3.230

        advertised.host.name =192.168.3.230

    2.启动每台服务器的kafka:

        > bin/kafka-server-start.sh config/server.properties &


四、测试集群

    1.创建一个topic

        > bin/kafka-topics.sh --create --zookeeper 192.168.3.230:2181 --replication-factor 3 --partitions 1

            --topic test-topic


    2.查看创建的topic

        > bin/kafka-topics.sh --describe --zookeeper 192.168.3.230:2181 --topic test-topic

            Topic:test-replicated-topic    PartitionCount:1    ReplicationFactor:3    Configs:

            Topic: test-replicated-topic    Partition: 0    Leader: 1    Replicas: 1,2,0    Isr: 1,2,0


     3.查看topic列表

          > bin/kafka-topics.sh --list --zookeeper 192.168.3.230 :2181 

    test

    test-topic

    查看列表及具体信息

          > bin/kafka-topics.sh --zookeeper localhost --describe


    4.查看集群情况:

        >bin/kafka-topics.sh --describe --zookeeper 192.168.3.233:2181 --topic test-topic

        >bin/kafka-topics.sh --describe --zookeeper 192.168.3.234:2181 --topic test-topic

        发现都能看到test-topic。


     5.生产消息

          > bin/kafka-console-producer.sh --broker-list 192.168.3.234:9092 -topic test-topic

     6.消费消息

          > bin/kafka-console-consumer.sh --zookeeper 192.168.3.234:2181 --from-beginning --topic test-topic

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,826评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,968评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,234评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,562评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,611评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,482评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,271评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,166评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,608评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,814评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,926评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,644评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,249评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,866评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,991评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,063评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,871评论 2 354

推荐阅读更多精彩内容