当前位置: 首页 > news >正文

SGD优化器贯穿Faster R-CNN的全模型

统一管理所有可训练参数的更新,而非作用于某个局部模块。

一、全局视角:SGD管理哪些参数?

Python
复制
# Faster R-CNN可训练参数总览
model = FasterRCNN(backbone=ResNet50(),      # 包含 conv1~conv5_x, BN层rpn=RPNHead(),            # 包含分类/回归分支的卷积roi_heads=RoIHeads(),     # 包含全连接层、分类器
)# 所有参数由同一个SGD优化器管理
optimizer = optim.SGD(params=[# 1. Backbone参数 (C1~C5卷积){'params': model.backbone.parameters()},# 2. RPN参数 (anchor分类/回归){'params': model.rpn.parameters()},# 3. RoI Head参数 (检测头){'params': model.roi_heads.parameters()},],lr=0.02,momentum=0.9,weight_decay=1e-4
)
 
一句话 :SGD的 step() 每次更新整个Faster R-CNN的权重,从 backbone 底层卷积到 RoI Head 的分类器。

二、训练流程中的SGD位置

完整训练循环

Python
复制
for epoch in range(12):for images, targets in dataloader:# 1. 前向传播 (所有模块共同参与)#    - Backbone提取特征#    - RPN生成proposals#    - RoI Head预测类别/框loss_dict = model(images, targets)losses = sum(loss_dict.values())  # 总损失# 2. 反向传播 (计算所有模块的梯度)optimizer.zero_grad()losses.backward()#    ↓#    梯度已存储在每个参数的 .grad 属性中#    model.backbone.conv1.weight.grad#    model.rpn.conv.weight.grad#    model.roi_heads.box_predictor.weight.grad# 3. 参数更新 (SGD一步更新所有模块)optimizer.step()#    ↓#    所有参数同步更新:#    backbone.conv1.weight -= lr * grad#    rpn.conv.weight -= lr * grad#    roi_heads.box_predictor.weight -= lr * grad
 
SGD作用位置图:
复制
损失函数↓ (backward)
梯度传播到每个参数↓
├─→ Backbone (ResNet)  ← SGD更新
├─→ RPN Head           ← SGD同步更新
└─→ RoI Head           ← SGD同步更新
http://www.jsqmd.com/news/64255/

相关文章:

  • 线段树学习笔记
  • Anchor尺寸
  • 西门子S7-1200与施耐德Altivar320通讯 工业自动化场景的总线协议转换方案
  • 短剧小程序 2025 核心痛点分析:内容、工艺与合规的三重困境
  • 「C++」vector的利用及接口模拟详解
  • 「Java EE开发指南」如何在MyEclipse中构建EJB 2 Session Bean?(一)
  • Android开发 Jetpack_Compose DatePickerBottomSheet 滚轮日历选择器对话框
  • 代码资源空间调整:当前代码与资源的总大小超过FLASH的大小,需要更大的FLASH
  • 亚马逊发起新的Alexa Prize SimBot挑战
  • 跨国数据传输解决方案为企业提供安全与合规保障
  • 数据结构(18) - 实践
  • 题解:qoj5411 杏仁
  • 游记:CSP2025
  • CSP2025 游记
  • 制造业图文档收发的安全交换解决方案分析
  • Spring boot 中 CommandLineRunner 在服务启动完成后自定义执行
  • 文件摆渡系统哪个好:提升企业文件交换安全性的首选方案
  • 2025年越野轮胎推荐:专业越野胎权威测评
  • 115.娇三“独处-再思考”
  • 2025最新发布!耐磨的轮胎推荐:五大高耐磨胎精选报告
  • 2025年权威发布!防爆胎更换推荐:权威防爆胎更换TOP指南
  • 从经验驱动到模型驱动:企业数字化的机理、难题与价值重构
  • 新型网闸使用场景:安全隔离与高效交换的双重突破
  • 2025年客制化键盘王者:狼蛛双雄领衔,五强争霸颠覆市场格局
  • WPF CommunityToolkit.Mvvm学习-一ObservableProperty 属性
  • 路由注入
  • P2542 [AHOI2005] 航线规划の题解
  • 实用指南:C++幻象:内存序、可见性与指令重排
  • 详细介绍:二手车销售|汽车销售|基于SprinBoot+vue的二手车交易系统(源码+数据库+文档)
  • host