消费数据积压

生产者生产数据的速度超过消费者处理数据的速度,会造成kafka中积压大量未处理的数据

2-1 使用Kafka Eagle查看消费积压

Kafka Eagle是一个用于监控和管理kafka的开源组件,可以同时监控多个kafka集群,

通过Kafka Eagle可以看到当前的消费者组,对于每个组,他们正在使用的主题以及该组在每个主题中的偏移量,消费积压等等

JMX(Java Management Extensions,即 Java 管理扩展)是一个为应用程序、设备、系统等植入管理功能的框架。

它提供了对Java应用程序和JVM的监控和管理功能。通过JMX,我们可以监控服务器中的各种资源的使用情况,CPU、内存,JVM内存的使用情况.

安装kafka-eagle 参考安装文件,只需要在一台服务器上安装即可,版本是1.4.6

  • 启动服务
ke.sh start
  • 测试数据写入
kafka-producer-perf-test.sh --topic user --num-records 1000000 --throughput -1 --record-size 1024 --producer-props bootstrap.servers=node1.itcast.cn:9092,node2.itcast.cn:9092,node3.itcast.cn:9092
  • 限流
    • 限制数据的写入速度
    • 写入速度的限制要根据实际情况调整
kafka-configs.sh --zookeeper node1.itcast.cn:2181 --alter --add-config 'producer_byte_rate=1048576' --entity-type clients --entity-default

相关推荐

  1. 消费数据积压

    2024-01-21 20:58:03       38 阅读
  2. Kafka顺序消费以及消息积压问题

    2024-01-21 20:58:03       45 阅读
  3. kafka 线上消费积压问题

    2024-01-21 20:58:03       15 阅读
  4. kafka消息积压处理方案

    2024-01-21 20:58:03       6 阅读
  5. kafka rebalance(再均衡)导致的消息积压分析

    2024-01-21 20:58:03       34 阅读
  6. kafka处理大量消息积压tips —— 筑梦之路

    2024-01-21 20:58:03       37 阅读
  7. 记一次kafka消息积压的排查

    2024-01-21 20:58:03       24 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-21 20:58:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-21 20:58:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-21 20:58:03       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-21 20:58:03       20 阅读

热门阅读

  1. Go语言学习笔记:GORM 介绍及快速入门,简单查询

    2024-01-21 20:58:03       31 阅读
  2. Nginx笔记

    2024-01-21 20:58:03       29 阅读
  3. linux 抓包

    2024-01-21 20:58:03       37 阅读
  4. UI -- Vue2

    2024-01-21 20:58:03       32 阅读
  5. 数据结构概述

    2024-01-21 20:58:03       36 阅读
  6. C++学习笔记(四十三):c++ optional

    2024-01-21 20:58:03       29 阅读
  7. react和vue的区别

    2024-01-21 20:58:03       29 阅读
  8. 【Delphi 基础知识 22】TStringList 的详细用法

    2024-01-21 20:58:03       27 阅读
  9. CSS Day10

    CSS Day10

    2024-01-21 20:58:03      28 阅读