kafka防止消息丢失配置

无消息丢失最佳实践配置:

  1. 不要使用 producer.send(msg),而要使用 producer.send(msg, callback) API。
  2. 设置 acks = all。是 Producer 参数。设置成 all,表明所有副本 Broker 都要接收到消息,g该消息才算是“已提交”。
  3. 设置 retries 为一个较大的值。是 Producer 的参数,表示Producer自动重试。当出现网络的瞬时抖动时,消息发送可能会失败,此时配置了 retries > 0 Producer能够自动重试消息发送,避免消息丢失。
  4. 设置 unclean.leader.election.enable = false。这是 Broker 端的参数,它控制的是哪些 Broker 有资格竞选分区的 Leader。如果一个 Broker 落后原先的 Leader 太多,那么它一旦成为新的 Leader,必然会造成消息的丢失。故一般都要将该参数设置成 false,即不允许这种情况的发生。
  5. 设置 replication.factor >= 3Broker 端的参数。分区副本数量,目前防止消息丢失的主要机制就是冗余。
  6. 设置 min.insync.replicas > 1Broker 端参数,表示消息至少要被写入到多少个副本才算是“已提交”。设置成大于 1 可以提升消息持久性。在实际环境中不要使用默认值 1。
  7. 确保 replication.factor > min.insync.replicas。如果两者相等,那么只要有一个副本挂机,整个分区就无法正常工作。不仅要改善消息的持久性,防止数据丢失,还要能保证可用性。推荐设置
    replication.factor = min.insync.replicas +1
  8. 确保消息消费完成再提交。Consumer 端有个参数 enable.auto.commit,最好把它设置成 false,并采用手动提交位移的方式。就像前面说的,这对于单 Consumer 多线程处理的场景而言是至关重要的。

相关推荐

  1. kafka防止消息丢失配置

    2024-05-26 06:44:17       49 阅读
  2. Kafka消息丢失如何处理

    2024-05-26 06:44:17       30 阅读
  3. RabbitMQ消息的可靠传输和防止消息丢失

    2024-05-26 06:44:17       29 阅读
  4. Kafka怎么保证消息发送不丢失

    2024-05-26 06:44:17       47 阅读
  5. kafka 消息丢失/消息防重复设计分析

    2024-05-26 06:44:17       40 阅读
  6. Kafka|处理 Kafka 消息丢失的有效措施

    2024-05-26 06:44:17       40 阅读
  7. 7、无消息丢失配置怎么实现?

    2024-05-26 06:44:17       51 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-05-26 06:44:17       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-05-26 06:44:17       106 阅读
  3. 在Django里面运行非项目文件

    2024-05-26 06:44:17       87 阅读
  4. Python语言-面向对象

    2024-05-26 06:44:17       96 阅读

热门阅读

  1. Git 基础使用(4)标签管理

    2024-05-26 06:44:17       39 阅读
  2. Python库之lxml的简介、安装、使用方法详细攻略

    2024-05-26 06:44:17       41 阅读
  3. [AIGC] CompletableFuture如何实现任务链式调用?

    2024-05-26 06:44:17       35 阅读
  4. HLS入门

    HLS入门

    2024-05-26 06:44:17      37 阅读
  5. 前端调用浏览器录音功能且生成文件(vue)

    2024-05-26 06:44:17       34 阅读
  6. H3CNE-5-IP子网划分(二)

    2024-05-26 06:44:17       33 阅读
  7. 6、设计模式之桥接模式

    2024-05-26 06:44:17       37 阅读
  8. junit测试对应功能,方法使用

    2024-05-26 06:44:17       36 阅读
  9. mysql-增量备份流程详细流程

    2024-05-26 06:44:17       39 阅读
  10. 使用Python提取PDF中的文本和表格数据

    2024-05-26 06:44:17       44 阅读