当前位置: 首页 > news >正文

如何安全添加带默认值的列?online_migrations背景填充功能实战教程

如何安全添加带默认值的列?online_migrations背景填充功能实战教程

【免费下载链接】online_migrationsCatch unsafe PostgreSQL migrations in development and run them easier in production (code helpers for table/column renaming, changing column type, adding columns with default, background migrations, etc).项目地址: https://gitcode.com/gh_mirrors/on/online_migrations

在PostgreSQL数据库开发中,为大型表添加带默认值的列可能导致长时间锁表,影响生产环境稳定性。online_migrations提供的add_column_with_default方法和背景数据迁移功能,能够帮助开发者安全、高效地完成这一操作。本文将详细介绍如何利用这些工具实现零停机添加带默认值的列。

为什么直接添加默认值列很危险?

传统的add_column :table, :column, :type, default: value命令在PostgreSQL中会触发全表扫描,为每一行设置默认值。当表数据量达到百万甚至千万级时,这个过程可能持续数小时,期间表会被锁定,导致应用无法读写数据。

online_migrations的add_column_with_default方法通过以下步骤解决这个问题:

  1. 先添加允许NULL的列
  2. 异步背景填充默认值
  3. 最后设置NOT NULL约束(如果需要)

快速上手:add_column_with_default基础用法

基本语法

add_column_with_default :users, :admin, :boolean, default: false

这个简单的命令会自动处理所有复杂的背景填充逻辑。如果需要禁止NULL值,可以添加null: false选项:

add_column_with_default :users, :status, :integer, default: 0, null: false

高级配置选项

你还可以自定义批处理大小和暂停时间,优化数据库负载:

add_column_with_default :users, :admin, :boolean, default: false, batch_size: 10_000, # 每次处理10000行 pause_ms: 100 # 每批处理后暂停100毫秒

完整的参数说明可查看schema_statements.rb源码。

背景数据迁移深度实战

什么是背景数据迁移?

背景数据迁移用于处理大型表的数据更新,通过分批处理避免长时间锁表。它特别适合以下场景:

  • 为新添加的列填充历史数据
  • 从JSON字段迁移数据到独立列
  • 批量更新关联表数据

详细指南可参考官方文档background_data_migrations.md。

创建背景数据迁移

使用生成器创建迁移文件:

$ bin/rails generate online_migrations:data_migration backfill_project_issues_count

这会生成两个文件:

  • 数据迁移逻辑文件:lib/online_migrations/data_migrations/backfill_project_issues_count.rb
  • 任务调度文件:db/migrate/xxxxxxxxxxxxxx_enqueue_backfill_project_issues_count.rb

实现迁移逻辑

编辑生成的迁移文件,实现collectionprocess方法:

# lib/online_migrations/data_migrations/backfill_project_issues_count.rb module OnlineMigrations module DataMigrations class BackfillProjectIssuesCount < OnlineMigrations::DataMigration class Project < ActiveRecord::Base; end def collection Project.in_batches(of: 100) # 分批处理,每批100条 end def process(relation) relation.update_all(<<~SQL) issues_count = ( SELECT COUNT(*) FROM issues WHERE issues.project_id = projects.id ) SQL end def count collection.count # 总批次数,用于进度显示 end end end end

配置调度器

使用whenever gem配置定时任务,定期执行背景迁移:

# config/schedule.rb every 1.minute do runner "OnlineMigrations.run_background_data_migrations" end

监控与调优

事件订阅

通过ActiveSupport通知监控迁移进度:

ActiveSupport::Notifications.subscribe("started.background_data_migrations") do |name, start, finish, id, payload| Rails.logger.info "Migration started: #{payload[:migration].name}" end ActiveSupport::Notifications.subscribe("completed.background_data_migrations") do |name, start, finish, id, payload| Rails.logger.info "Migration completed: #{payload[:migration].name} in #{finish - start}s" end

性能调优建议

  1. 合理设置批处理大小:根据服务器性能调整,建议从1000行开始测试
  2. 添加适当暂停:避免数据库负载过高,通常设置100-500ms
  3. 监控数据库性能:使用pg_stat_activity查看锁等待情况
  4. 错峰执行:选择业务低峰期运行大型迁移

常见问题解决方案

迁移卡住怎么办?

online_migrations会自动处理卡住的迁移,默认超时时间可通过配置调整:

# config/initializers/online_migrations.rb OnlineMigrations.config.background_data_migrations.stuck_timeout = 30.minutes

如何处理迁移错误?

自定义错误处理逻辑:

OnlineMigrations.config.background_data_migrations.error_handler = ->(error, migration) do # 发送告警通知 ErrorNotifier.notify(error, migration: migration.name) end

能否回滚背景迁移?

背景迁移不支持自动回滚,建议:

  1. 创建反向迁移文件
  2. 监控迁移进度,发现问题及时暂停
  3. 小批量测试后再全量执行

总结

使用online_migrations的add_column_with_default和背景数据迁移功能,可以安全地为大型PostgreSQL表添加带默认值的列,避免生产环境停机。关键步骤包括:

  1. 使用add_column_with_default替代原生add_column
  2. 利用生成器创建背景迁移
  3. 配置定时任务调度
  4. 监控迁移进度和性能

通过这些工具和最佳实践,开发者可以在保持应用高可用性的同时,轻松完成数据库结构变更。更多高级用法请参考官方文档和源码实现。

【免费下载链接】online_migrationsCatch unsafe PostgreSQL migrations in development and run them easier in production (code helpers for table/column renaming, changing column type, adding columns with default, background migrations, etc).项目地址: https://gitcode.com/gh_mirrors/on/online_migrations

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

http://www.jsqmd.com/news/1263477/

相关文章:

  • PostCSS 是什么,有什么作用?
  • Mesh:Tool与Kiri:Moto协作流程:从模型修复到切片输出
  • Linux进程生命周期与管理核心技术详解
  • 北京专业刑事律师靠谱推荐,实战经验 + 无罪胜诉案例 附刑事律师筛选标准 - 资讯速览
  • 都江堰本地整装装饰公司靠谱推荐,闭口合同无恶意增项 + 一线主材厂商直供 附 2026 家装报价参考明细 - 资讯速览
  • 上海涉外继承律师哪家专业?黄劲夫律师深耕跨境遗产纠纷实战解析 - 速递信息
  • AI Agent技能资源库awesome-agent-skills:快速扩展AI专业能力
  • 如何突破传统MCU性能瓶颈:基于FPGA的磁场定向控制(FOC)架构设计与实现
  • CAN 总线深入理解:从差分通信、节点仲裁到终端电阻
  • MARS框架三大实例:MARS-AdamW、MARS-Lion与MARS-Shampoo对比分析
  • Zotero OCR完整指南:让扫描PDF秒变可搜索文献的终极解决方案
  • 90%的简单任务不该用GPT-5.4:我在Taotoken平台验证的分级路由策略
  • 大模型选型实战:从Kimi K3到开源方案的性能、成本与工程化考量
  • 资本家内刊:《1000千亿人民币规模地下土地财政效益评估制度》著作家 方达炬
  • 2026 年至今,六枝特优秀的道路分隔护栏制造厂家哪家强,别再浪费钱!这套护栏如何让你省下百万维修费?-文兴声屏障护栏网 - 行业推荐官[官方】--
  • 5分钟上手PyOfficeRobot:微信机器人新手必备技能清单
  • SmartAny使用指南:SmartCodable如何优雅处理Any类型
  • 港科大EMBA对比:民营企业家择校选择指南 - 品牌2026推荐
  • 都江堰本地整装装饰公司靠谱推荐,分阶段验收付款 + 24 小时全天候售后 附家庭装修预算合理规划指南 - 资讯速览
  • 上海专业涉外继承律师|境外文书公证认证、跨境遗产确权纠纷解决方案 - 速递信息
  • day9
  • 天津北辰哪里回收黄金不坑?3 家本土实体门店实地测评汇总 - 华金汇黄金回收
  • 远程精确打击系统技术解析:从目标识别到毁伤评估的完整链条
  • 如何禁止特定Item拖拽?android-drag-FlowLayout的IDraggable接口使用教程
  • Jenkins 部署实战:从 Java -jar 到 Systemd 服务治理的完整演进
  • 你的 Agent Demo 能跑,为什么不敢进生产环境?权限与日志才是生死线
  • AI客服如何助力中小企业降本增效?
  • 解析semantic_slam核心模块:语义点云生成与八叉树融合技术
  • DAC39J84 JESD204B接口与DSP链配置实战:从参数计算到系统调试
  • 2026 年 7 月新发布:宽城口碑好的5米钢板卷圆源头厂家哪家权威,揭秘:5米钢板卷圆如何颠覆您的生产效率-晶玉激光切割 - 企业信息推荐【官方】