Python日志把磁盘写爆了？一个真实案例教你用logrotate和find命令优雅管理日志文件

Python日志管理实战：如何用logrotate和find命令避免磁盘爆满

1. 从真实案例看日志管理的痛点

那天凌晨三点，监控系统突然报警——生产环境的核心服务全部宕机。紧急登录服务器排查，发现磁盘空间被日志文件占满，Python应用抛出OSError: [Errno 28] No space left on device错误。查看日志目录，竟然堆积了超过8万个日志文件，每个虽然只有2MB，但总量早已超过磁盘容量。这个看似简单的存储问题，背后暴露的是日志管理策略的系统性缺失。

典型问题场景：

• 日志文件数量失控（如案例中的86400个上限）
• 单文件大小无节制增长
• 缺乏自动轮转和清理机制
• 未考虑inodes限制等系统级因素

# 查看磁盘空间和inodes使用情况 df -h # 磁盘空间 df -i # inodes数量

提示：inodes用尽和磁盘空间耗尽都会导致"No space left"错误，但解决方案完全不同

2. 系统级解决方案：logrotate深度配置

2.1 logrotate核心机制解析

logrotate是Linux系统自带的日志管理工具，通过cron定期执行，提供以下核心功能：

• 轮转(rotate)：重命名旧日志，创建新文件
• 压缩(compress)：使用gzip等压缩历史日志
• 清理(prune)：按时间或数量删除旧日志
• 触发信号：通知应用重新打开日志文件

典型配置参数对比：

2.2 Python应用专用配置示例

在/etc/logrotate.d/下创建专属配置（如my_python_app）：

/u01/app/logs/*.log { daily rotate 30 compress delaycompress missingok notifempty copytruncate dateext dateformat -%Y%m%d postrotate # 通知Python应用重新打开日志（如使用logging.handlers.WatchedFileHandler） pkill -USR1 python3 2>/dev/null || true endscript }

关键技巧：

• copytruncate：复制后清空原文件，避免需要应用配合重开日志
• dateext：使用日期作为轮转后缀，便于排查
• USR1信号：优雅通知Python重载日志文件

# Python端需要配合的代码（使用WatchedFileHandler） import logging from logging.handlers import WatchedFileHandler handler = WatchedFileHandler('/u01/app/logs/app.log') logging.basicConfig(handlers=[handler])

3. 灵活方案：find命令组合拳

3.1 基础清理命令剖析

当需要更灵活的清理策略时，find命令是不二之选：

# 删除30天前的.log文件（按修改时间） find /u01/app/logs -name "*.log" -mtime +30 -delete # 限制总文件数量（保留最新的100个） find /u01/app/logs -name "*.log" -printf '%T@ %p\n' | sort -n | head -n -100 | cut -d' ' -f2- | xargs rm -f

find常用参数精解：

3.2 高级组合技巧

场景1：同时控制文件数量和总大小

# 保持目录下日志不超过10GB while [ $(du -s /u01/app/logs | cut -f1) -gt $((10*1024*1024)) ]; do oldest=$(find /u01/app/logs -name "*.log" -printf '%T@ %p\n' | sort -n | head -1 | cut -d' ' -f2-) rm -f "$oldest" done

场景2：按inodes使用率自动清理

# 当inodes使用率>90%时清理最早日志 inode_usage=$(df -i /u01 | awk 'NR==2 {print $5}' | tr -d '%') [ $inode_usage -gt 90 ] && \ find /u01/app/logs -name "*.log" -printf '%T@ %p\n' | sort -n | head -n 50 | cut -d' ' -f2- | xargs rm -f

4. 生产环境最佳实践

4.1 多维度防御策略

1. 分层存储：

   • 热日志：保留7天，本地SSD存储
   • 温日志：保留30天，机械硬盘或NAS
   • 冷日志：保留1年，对象存储（如S3）

2. 监控预警：

   # 监控脚本示例 check_space() { local threshold=90 local usage=$(df -h /u01 | awk 'NR==2 {print $5}' | tr -d '%') [ $usage -ge $threshold ] && \ alert "磁盘空间使用率${usage}%超过阈值${threshold}%" local inode_usage=$(df -i /u01 | awk 'NR==2 {print $5}' | tr -d '%') [ $inode_usage -ge $threshold ] && \ alert "inodes使用率${inode_usage}%超过阈值${threshold}%" }

3. 日志分级：

   • DEBUG/INFO：短期保留（1-7天）
   • WARNING/ERROR：长期保留（30-90天）
   • CRITICAL：永久存档

4.2 Python日志配置优化建议

import logging from logging.handlers import RotatingFileHandler # 按大小轮转（推荐配合logrotate使用） handler = RotatingFileHandler( 'app.log', maxBytes=50*1024*1024, # 50MB backupCount=10 # 保留10个历史文件 ) # 更高级的TimedRotatingFileHandler from logging.handlers import TimedRotatingFileHandler handler = TimedRotatingFileHandler( 'app.log', when='midnight', # 每天轮转 interval=1, backupCount=30 )

关键决策点：