当前位置: 首页 > news >正文

kakfa文件清理策略方法和种类

好的,我们来详细说明 Kafka 的文件清理策略方法和种类。

Kafka 作为分布式消息队列,其核心存储结构是日志片段(Log Segments)。随着消息的不断写入,磁盘空间会逐渐被占用。为了管理磁盘空间并防止其耗尽,Kafka 提供了两种主要的日志清理策略:

Kafka 中默认的日志(这个地方是数据的意思,就是Segment)保存时间为 7 天,可以通过调整如下参数修改保存时间。

log.retention.hours,最低优先级小时,默认 7 天。

log.retention.minutes,分钟。 --如果设置了该值,小时的设置不起作用。

log.retention.ms,最高优先级毫秒。 --如果设置了该值,分钟的设置不起作用。

1. 基于时间的清理策略 (log.retention.hours,log.retention.minutes,log.retention.ms)

  • 原理:这是 Kafka 默认的清理策略。它根据消息在日志中保留的时间长度来决定是否删除。Kafka 会定期(默认为每 5 分钟)扫描日志的每个片段(Log Segment)。
  • 删除条件:对于一个日志片段,Kafka 会检查该片段中最后一条消息的时间戳(通常是消息的发布时间戳)。
    • 如果该时间戳距离当前时间已经超过了配置的保留时间(例如,log.retention.hours=168表示保留 7 天),那么该日志片段就会被标记为可删除。
  • 删除粒度:清理是以整个日志片段为单位进行的。Kafka 不会删除片段内部的部分消息。只有当整个片段中所有消息的“最老”时间(即片段最后一条消息的时间戳)都过期时,整
http://www.jsqmd.com/news/87612/

相关文章:

  • kafka的Range 以及再平衡
  • NVIDIA NeMo和NIM是用于开发和部署大模型
  • 如何筛选最适合公司的年会场地?2025年年终最新场地评测与5个具体场地推荐 - 品牌推荐
  • NVIDIA AI端到端应用开发实践
  • springboot学生心理咨询评估系统(11484)
  • 27.红黑树(下)
  • 基于SpringBoot的网上订餐系统(11485)
  • 红黑树:比AVL更“聪明”的平衡树,拆解那些反直觉的核心难点
  • 【3D圣诞树[特殊字符]】HTML代码实现
  • 2025年年终中国检验检测机构推荐:基于权威资质与多领域服务能力的10家高可靠性机构盘点 - 十大品牌推荐
  • 67、流行编程语言与 Android 开发入门指南
  • Let‘s Encrypt免费证书与HTTPS配置完全指南
  • Linux性能监控工具全家桶一文掌握系统状态
  • Flume监控工具Ganglia介绍
  • 5分钟上手Cmder:让Windows命令行颜值与效率双提升
  • spark的Kryo 序列化介绍
  • flume的数据模型介绍
  • Wan2.1-I2V图生视频模型完整教程:从零开始掌握动态内容生成
  • AutoGPT多语言支持能力现状与优化建议
  • 利用AutoGPT镜像实现AI自动化办公的5个真实场景
  • 由AI驱动的3D机器人感知与地图构建技术栈
  • deepseek进入死循环了
  • 泗洪无人机培训影响力大的机构
  • 基于vue的小说在线阅读销售平台_7np993jf_springboot php python nodejs
  • NVIDIA NeMo Agent应用场景和创建智能体实践
  • NVIDIA Llama Nemotro 推理模型构建企业级 AI 智能体
  • Django 标准缓存cache 模块API
  • OpenFeign 声明式客户端的动态代理与 LoadBalancer 负载均衡策略
  • Tiled地图渲染引擎深度解析:从架构设计到性能优化的完整指南
  • BERT模型训练全流程解析:从数据加载到模型保存