Kafka参数配置

  1. 消费者

    • enable.auto.commit

      默认值为true,与参数auto.commit.interval.ms一起作用,auto.commit.interval.ms默认值为5000ms,也就是说默认设置中每5秒钟,kafka consumer就把offset提交给kafka一次,如果将enable.auto.commit设置为false,则auto.commit.interval.ms就失效了。

      生产环境建议将enable.auto.commit设置成false,并且手动commit offset

    • auto.offset.reset

      earlist当各分区中有已提交的offset时,从提交的offset开始消费,无提交的offset时,从头开始消费;

      lastest 当各分区有已提交的offset时,从已提交的offset开始消费,无提交的offset时,消费该分区新产生的数据

      none 当分区有已提交的offset是,从已提交的offset开始消费,只要有一个分区不存在已提交的offset,则抛出异常

  2. 生产者

    • acks 参数指定了必须要有多少个分区副本接收到消息,生产者才会认为消息写入是发送消息成功的,这个参数对消息丢失的可能性会产生重要影响,主参数有如下选项:
    • acks=0: 把消息发送到kafka就认为发送成功。
    • acks=1: 把消息发送到kafka leader分区,并且写入磁盘就认为发送成功。
    • acks=all: 把消息发送到 Kafka Leader 分区,并且 Leader 分区的副本 Follower 对消息进行了同步就认为发送成功。
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Kafka kafka是什么?kafka仅仅是属于消息 中间件吗? kafka在设计之初的时候 开发人员们在除了消...
    JAVA开发之路阅读 4,700评论 0 6
  • 大致可以通过上述情况进行排除 1.kafka服务器问题 查看日志是否有报错,网络访问问题等。 2. kafka p...
    生活的探路者阅读 12,223评论 0 10
  • 一、概述 Kafka是一个具有高吞吐量,高拓展性,高性能和高可靠的基于发布订阅模式的消息队列,是由领英基于Java...
    服务端开发阅读 4,172评论 1 5
  • Apache Kafka 发布与订阅消息系统 kafka介绍: Kafka就是一款基于发布与订阅的梢息系统。它一般...
    devLiao阅读 14,844评论 0 12
  • 因为连续多天 不吃饭 只吃水果 所以例假推迟六天了还没来 感觉胃疼 凉的不行 我得适当的吃点饭了
    梓凡tian阅读 767评论 0 0