Kafka Eagle监控,一些问题总结

用Eagle监控: ~SpringCloud Alibaba Nacos, 监控引擎、UI都做好了,不像Prometheus + Grafana那样需要自己手工搭建。也类似前端的Bootstrap框架了事不需要自己定制。

用法:

  1. 修改kafka-server-start.sh, KAFKA_OPTS下暴露JMX端口, 类似导出到Prometheus(9090);
  2. kafka-eagle-bin-1.3.7.tar.gz解压;
  3. chmod +x ke.sh, 修改配置文件
  4. 添加环境变量:
export KE_HOME = /opt/module/eagle
export PATH = $PATH:$KE_HOME/bin
  1. 启动bin/ke.sh start(首先zk, kafka); 访问http://localhost:8048/ke (8048: eagle d)

好处是监控UI和其中的metrics都出来了,但是也有不足:

  1. 没有prometheus那么全面,metrics少很多,prometheus可以全部抓取(brokers + producer + consumer)
  2. 实时监控的效果明显不如prometheus,默认是1分钟更新一次,但是明显频率过低。

一些Kafka相关的问题总结:

  1. Kafka中的ISR(InSyncRepli)、OSR(OutSyncRepli)、AR(AllRepli)代表什么?
  2. Kafka中的HW、LEO等分别代表什么?
  3. Kafka中是怎么体现消息顺序性的?
  4. Kafka中的分区器、序列化器、拦截器是否了解?它们之间的处理顺序是什么?
  5. Kafka生产者客户端的整体结构是什么样子的?使用了几个线程来处理?分别是什么?
  6. “消费组中的消费者个数如果超过topic的分区,那么就会有消费者消费不到数据”这句话是否正确?
  7. 消费者提交消费位移时提交的是当前消费到的最新消息的offset还是offset+1?是offset+1,因为进入zk发现最开始没有消息来的时候offset都是0
  8. 有哪些情形会造成重复消费? 不要答ACK相关的,因为那是从Producer角度答的,这是问consumer
  9. 那些情景会造成消息漏消费?8, 9其实问的是手动提交offset的分布式事务问题
  10. 当你使用kafka-topics.sh创建(删除)了一个topic之后,Kafka背后会执行什么逻辑?
  • 会在zookeeper中的/brokers/topics节点下创建一个新的topic节点,如:/brokers/topics/first
  • 触发Controller的监听程序
  • kafka Controller 负责topic的创建工作,并更新metadata cache
  1. topic的分区数可不可以增加?如果可以怎么增加?如果不可以,那又是为什么?可以
  2. topic的分区数可不可以减少?如果可以怎么减少?如果不可以,那又是为什么?不可以
  3. Kafka有内部的topic吗?如果有是什么?有什么所用?
  4. Kafka分区分配的概念?问的RoundRobin和Range
  5. 简述Kafka的日志目录结构?15, 16: 问的.log 和.index
  6. 如果我指定了一个offset,Kafka Controller怎么查找到对应的消息?
  7. 聊一聊Kafka Controller的作用?
  8. Kafka中有那些地方需要选举?这些地方的选举策略又有哪些?controller, leader两种不同的策略
  9. 失效副本是指什么?有那些应对措施?ISR挂的
  10. Kafka的哪些设计让它有如此高的性能
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容