
Kafka
文章平均质量分 77
秀强
物有本末,事有终始。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Kafka 中 topic、partition、offset、replica、ISR 等概念详解
文章目录消息的数据结构topic 和 partition位移(offset)replicaleader 和 followerISR消息的数据结构Kafka 中的消息格式由很多字段组成,其中的很多宇段都是用于管理消息的元数据字段,对用户来说是完全透明的。Kafka 消息格式共经历过 3 次变迁,它们被分别称为 VO、V1 和 V2 版本。V1 版本消息的完整格式如下图所示:消息由消息头部、 key 和 value 组成。消息头部包括消息的 CRC 码、消息版本号、属性、时间戳、键长度和消息体长度等信息原创 2022-05-03 14:07:20 · 6164 阅读 · 1 评论 -
docker 快速启动 Confluent Kafka
通过 docker 快速启动一个 Kafka 用于快速入门 Kafka。本文包括如何使用docker从0搭建Kafka并生产消息和消费消息。原创 2022-04-27 22:58:23 · 3513 阅读 · 0 评论 -
Kafka rebalance 重平衡深度解析
文章目录rebalance 触发条件分区分配策略rebalance generation消费者状态机rebalance 协议消费者端 rebalance 流程Broker 端重平衡场景解析新成员入组组成员主动离场组成员崩溃离场重平衡时协调者对组内成员提交位移的处理rebalance 监听器consumer group 是用于实现高伸缩性、高容错性的 consumer 机制。组内多个 consumer 实例可以同时读取 Kafka 消息,而且一旦有某个 consumer “挂”了,consumer grou原创 2022-04-26 00:34:06 · 1476 阅读 · 0 评论 -
Kafka Consumer 位移提交
位移的概念每个 consumer 实例都会为它消费的分区维护属于自己的位置信息来记录当前消费了多少条消息 。在 Kafka 中,这叫位移 Offset。消费位移记录了 Consumer 要消费的下一条消息的位移。consumer group 使用一个长整型保存 offset。同时 Kafka consumer 还引入了检查点机制( checkpointing)定期对 offset 进行持久化,从而简化了应答机制的实现 。 Kafka consumer 在内部使用一个 map 来保存其订阅 topic 所原创 2022-04-25 20:42:24 · 2128 阅读 · 0 评论 -
Kafka 消费特定时间戳之后的消息
kafka 根据时间戳来消费消息原创 2021-12-15 19:44:41 · 2448 阅读 · 0 评论 -
Springboot 集成 Kafka 进行批量消费及踩坑点
springboot 使用配置类集成 kafka原创 2021-12-13 21:24:32 · 2783 阅读 · 0 评论