kafka常用监控命令

kafka查看消费组的消费详情
[root@yqms-beta_g3 bin]# ./kafka-consumer-groups.sh --bootstrap-server 192.168.182.22:9092 --describe --group online2
Note: This will not show information about old Zookeeper-based consumers.


TOPIC                          PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG        CONSUMER-ID                                       HOST                           CLIENT-ID
yqms4_online2                  0          765553          765553          0          consumer-11-ee19b7fc-69b7-46d6-becb-6b0ac7437677  /192.168.185.83                consumer-11
yqms4_online                   1          2349165         2349165         0          consumer-10-7a3a3c9d-cabd-4828-9e7d-1059edaf3ae4  /192.168.185.83                consumer-10
yqms4_online2                  1          765554          765554          0          consumer-12-34374491-173f-4757-b0ba-194e1b205568  /192.168.185.83                consumer-12
yqms4_online                   0          2349163         2349163         0          consumer-1-4510420d-f203-4d3f-8e90-137de4b3914e   /192.168.185.83                consumer-1
-                              -          -               -               -          consumer-2-d5a5d937-23c2-4bee-b13b-bf0e1f4a76c2   /192.168.185.83                consumer-2
-                              -          -               -               -          consumer-18-445d7b89-f3b1-439f-ae5b-01da32ddf094  /192.168.185.83                consumer-18
-                              -          -               -               -          consumer-19-96e7e74f-6c93-452e-b91d-a99956e25890  /192.168.185.83                consumer-19
-                              -          -               -               -          consumer-4-2d8f1a73-3876-40b8-ab07-7e9555ab956a   /192.168.185.83                consumer-4
-                              -          -               -               -          consumer-3-39ae93ad-c5fa-4c2a-b19b-02e2347aff41   /192.168.185.83                consumer-3
-                              -          -               -               -          consumer-6-cc39f580-d433-4248-8371-733da9703196   /192.168.185.83                consumer-6
-                              -          -               -               -          consumer-17-27b58eff-db84-4e79-a07a-5350ec9265ef  /192.168.185.83                consumer-17
-                              -          -               -               -          consumer-15-6f7945f9-59c3-49bb-a1d7-c0f97d0c5097  /192.168.185.83                consumer-15
-                              -          -               -               -          consumer-5-161b6839-cc85-4d22-bea4-7042710c3655   /192.168.185.83                consumer-5
-                              -          -               -               -          consumer-7-9c44945b-181d-46fc-b3c0-57153cdc42a3   /192.168.185.83                consumer-7
-                              -          -               -               -          consumer-8-594d2aba-3edc-4882-9ce8-118f0e196af3   /192.168.185.83                consumer-8
-                              -          -               -               -          consumer-20-8b720b3a-2ee9-4cd3-bc0d-97108c67b3df  /192.168.185.83                consumer-20
-                              -          -               -               -          consumer-16-a50e3daa-32e1-4167-85d6-3a122aa927d7  /192.168.185.83                consumer-16
-                              -          -               -               -          consumer-13-8ef46f20-8698-485d-8ad2-e91abb8a0e74  /192.168.185.83                consumer-13
-                              -          -               -               -          consumer-9-4c4ca3b9-2afc-4644-aa07-b192eee7e24f   /192.168.185.83                consumer-9
-                              -          -               -               -          consumer-14-9913d02d-0584-476e-b58c-3566bac84b57  /192.168.185.83                consumer-14
springboot配置文件:
kafka.consumer.zookeeper.connect=192.168.182.22:2181
kafka.consumer.servers=192.168.182.22:9092
kafka.consumer.enable.auto.commit=true
kafka.consumer.session.timeout=6000
kafka.consumer.auto.commit.interval=100
kafka.consumer.auto.offset.reset=latest
kafka.consumer.topic=yqms4_online
kafka.consumer.group.id=online2
kafka.consumer.concurrency=10

如上图:每个topic只有两个partition 启动10个消费线程是没有意义的
因此配置为错误示例,kafka.consumer.concurrency 需要<=topic的PARTITION数量。

关于PARTITION:

  • PARTITION越多吞吐量越高(硬件有上限)
  • PARTITION越多需要打开越多的句柄(视情况调整linux配置)
创建topic
./kafka-topics.sh --create --zookeeper localhost:2181 -replication-factor 1 --partitions 1 --topic haoran
查看topic
./bin/kafka-topics.sh --list --zookeeper localhost:2181
修改topic的partition
./bin/kafka-topics.sh --alter --topic haoran --zookeeper localhost:2181 --partitions 5
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,029评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,238评论 3 388
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,576评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,214评论 1 287
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,324评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,392评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,416评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,196评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,631评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,919评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,090评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,767评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,410评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,090评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,328评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,952评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,979评论 2 351