【Kafka笔记】(四)Kafka 三种消费模式
一、至少一次 At-Least-Once(默认)
数据一定能消费成功,可能重复消费。
二、 最多一次 At-Most-Once
不会重复消费,可能丢失数据。
三、 精准一次 Exactly-Once(Flink 核心能力)
不丢不重,精准消费,企业生产唯一标准。
实现依赖:Flink Checkpoint + Kafka 手动 Offset 提交
Flink 消费 Kafka 核心规则:
Flink 通过 group.id 绑定消费者组,记录消费位置
开启 Checkpoint 后,Flink 自动管理 Offset,宕机重启不丢数据、不重复数据
Kafka 分区数决定 Flink 最大并行消费能力
实时任务 99% 数据源都是 Kafka
