Kafka 基本概念和术语

1、消息

Record:Kafka 是消息引擎嘛,这里的消息就是指 Kafka 处理的主要对象。

2、主题

Topic:主题是承载消息的逻辑容器,在实际使用中多用来区分具体的业务。在Kafka 中发布订阅的对象是 Topic。

3、分区

Partition:一个有序不变的消息序列。每个主题下可以有多个分区。业务上要保证顺序性,将消息都写到一个分区,由单个消费线程消费即可实现顺序消费。多个分区无法保证消息的全局顺序性

4、消息位移

Offset:表示分区中每条消息的位置信息,是一个单调递增且不变的值。kafka 底层是追加写,所以效率高,所以单调递增,一旦写到磁盘上后,消息的位置就是固定的了

5、副本

Replica:Kafka 中同一条消息能够被拷贝到多个地方以提供数据冗余,这些地方就是所谓的副本。

副本还分为领导者副本和追随者副本。领导者副本对外提供服务,生产者向领导者副本写消息,消费者从领导者副本读消息;追随者副本只是向领导者副本发起请求同步最新的消息。

为啥是追随者副本向领导者副本发起请求而不是领导者副本向追随者推送消息?Kafka 不是 PUSH 模型而是 PULL 模型。

副本是在分区层级下的,即每个分区可配置多个副本实现高可用

6、生产者

Producer:向主题发布新消息的应用程序,可以向一个或者多个主题发送消息。

7、消费者

Consumer:从主题订阅新消息的应用程序,可以同时订阅多个主题的消息。 一个主题可以让若干个 consumer 消费,若干个 consumer 组成一个 consumer group ,一条消息只能被 consumer group 中一个 consumer 消费,若干个 partition 被若干个 consumer 同时消费,达到消费者高吞吐量

8、消费者位移

Consumer Offset:表征消费者消费进度,每个消费者都有自己的消费者位移。正常都是顺序消费一遍的,当然也可以重置消费者位移来达到业务目的。

9、消费者组

Consumer Group:多个消费者实例共同组成的一个组,同时消费多个分区以实现高吞吐。

10、重平衡

Rebalance。消费者组内某个消费者实例挂掉后,其他消费者实例自动重新分配订阅主题分区的过程。Rebalance 是 Kafka 消费者端实现高可用的重要手段。

11、broker

服务代理节点,Kafka 服务实例。 N 个组成一个 Kafka 集群,通常一台机器部署一个 Kafka 实例,一个实例挂了其他实例仍可以使用,体现了高可用。

为什么 Kafka 不像 MySQL 那样允许追随者副本对外提供读服务?

为什么kafka不支持主从分离? - 知乎

相关推荐

  1. Kafka 基本概念术语

    2024-01-08 00:24:02       62 阅读
  2. 常用的SQL术语概念

    2024-01-08 00:24:02       39 阅读
  3. MySQL入门篇(3)-数据库的基本概念术语

    2024-01-08 00:24:02       57 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-01-08 00:24:02       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-01-08 00:24:02       100 阅读
  3. 在Django里面运行非项目文件

    2024-01-08 00:24:02       82 阅读
  4. Python语言-面向对象

    2024-01-08 00:24:02       91 阅读

热门阅读

  1. Python 变量与命名规则

    2024-01-08 00:24:02       57 阅读
  2. 浮点数精度问题

    2024-01-08 00:24:02       61 阅读
  3. 机器学习的算法简单介绍-朴素贝叶斯算法

    2024-01-08 00:24:02       53 阅读
  4. 华为HCIA课堂笔记第七章 以太网交换基础

    2024-01-08 00:24:02       46 阅读
  5. 尚硅谷Vue项目实战硅谷甄选笔记——2024.01.02

    2024-01-08 00:24:02       51 阅读
  6. leetcode-字母异位词分组

    2024-01-08 00:24:02       56 阅读
  7. 智能寻迹避障机器人设计(第一章)

    2024-01-08 00:24:02       43 阅读