当前位置: 首页 > news >正文

ConvNeXt 改进 :ConvNeXt添加SCConv(空间和通道重构卷积,CVPR 2023),实现高效涨点,二次创新CNBlock结构 ,独家首发

本文教的是方法,也给出几种改进方法,二次创新结构,百变不离其宗一文带你改进自己模型,科研路上少走弯路。


前言

积神经网络 (CNN) 在各种计算机视觉任务中取得了卓越的表现,但这是以巨大的计算资源为代价的,部分原因是卷积层提取了冗余特征。最近的研究要么压缩训练有素的大规模模型,要么探索精心设计的轻量级模型。在本文中,我们尝试利用特征之间的空间和通道冗余进行 CNN 压缩,并提出一种高效的卷积模块,称为 SCConv(空间和通道重构卷积),以减少冗余计算并促进代表性特征学习。提出的 SCConv 由两个单元组成:空间重构单元 (SRU) 和通道重构单元 (CRU)。SRU 采用分离重构方法来抑制空间冗余,而 CRU 采用分裂变换和融合策略来减少通道冗余。此外,SCConv 是一个即插即用的架构单元,可直接用于替换各种卷积神经网络中的标准卷积。实验结果表明,嵌入 SCConv 的模型能够通过减少冗余特征来实现更好的性能,同时显著降低复杂度和计算成本。

理论介绍

核心模块如下:

  • SRU(空间重构单元):利用组归一化(Group Batch Norm)中的可学习参数γ \gammaγ作为权重评价指标,通过设置门限(Gate)将特征图划分为“富含信息”与“高度冗余”两部分,并执行交叉重构,从而增强显著性特征并抑制背景干扰;
  • CRU(通道重构单元):则采用“分割-转换-融合”策略,利用组卷积(GWC)和逐点卷积(PWC)的异构组合代替标准全通道卷积,通过 Softmax 引导的特征融合机制动态校准通道间的重要性。

高效的矩阵运算和分支合并,理论上将计算复杂度从O ( K 2 ⋅ C i n ⋅ C o u t ) O(K^2 \cdot C_{in} \cdot C_{out})O(K2CinCout)优化到了更细粒度的表征层面,让模型能够在大感受野下依然保持极低的硬件部署开销。

理论详解可以参考链接:论文地址
代码可在这个链接找到:代码地址

训练代码参考和下载:手把手教你使用ConvNeXt训练自己数据集和推理,ConvNeXt模型训练(CVPR 2022),一个能挑战 Vision Transformer 的卷积神经网络,含完整代码和数据集


文章目录

  • 前言
  • 理论介绍
  • 🐴一、实战细节
    • ⚡⚡实验结果画图
    • ⚡⚡改进模块代码
    • ⚡⚡使用教程
      • ☑️步骤1
      • ☑️步骤2
      • ☑️步骤3
  • 🐴二、模型结构分析
    • ⚡⚡ 注意机制结构分析
    • ⚡⚡ConvNeXt 结构分析
      • ☑️CNBlock 结构图
    • ⚡⚡二次创新实战
      • ☑️第一种改进手法
        • 📐模块的传参分析教程
      • ☑️第二种改进手法
      • ☑️第三种改进手法
      • ☑️第四种改进手法
  • 🐴三、论文常用的评估指标
      • ☑️准确率 (Accuracy, ACC)
      • ☑️精确率 (Precision)
      • ☑️召回率 (Recall)
      • ☑️F1分数 (F1 Score)
  • 总结

🐴一、实战细节

⚡⚡实验结果画图

画图效果如下,代码可一键运行

画图代码:

# -*- coding: utf-8 -*-""" @Auth :落花不写码 @File :画图.py @IDE :PyCharm @Motto :学习新思想,争做新青年 """importmatplotlib.pyplotaspltimportpandasaspd
http://www.jsqmd.com/news/538286/

相关文章:

  • 退休生活助手:OpenClaw+Qwen3.5-9B自动朗读新闻与药品提醒
  • 2026年知名的内蒙金矿石破碎生产线/河北铁矿石破碎生产线/河北玄武岩破碎生产线可靠供应商推荐 - 行业平台推荐
  • 2026年特种润滑脂厂家推荐:密封润滑脂/气缸润滑脂/塑胶齿轮润滑脂/高温润滑脂/导电润滑脂/电触点润滑脂/食品级润滑脂/阻尼润滑脂/全氟聚醚润滑脂/轴承润滑脂专业供应 - 品牌推荐官
  • 云原生必备技能:用KVM+qemu-img将ISO秒变qcow2镜像(支持CentOS8网络配置优化)
  • 真实订单系统面临的技术挑战
  • League-Toolkit 架构解析:基于 LCU API 的英雄联盟客户端自动化解决方案
  • 2026年靠谱的光伏屋顶钢架/光伏屋顶设计高口碑厂家推荐(评价高) - 行业平台推荐
  • 别再为Ubuntu 20.04.2.0的依赖报错头疼了!一个命令+离线包搞定所有
  • 3分钟搞定!用CSS隐藏Video标签控制栏的保姆级教程(含全屏按钮、进度条等)
  • 快速上手ANIMATEDIFF PRO:从环境部署到视频导出的完整操作流程
  • 2026年比较好的交通站场检测/电影院检测厂家选购指南与推荐 - 行业平台推荐
  • Langfuse与Dify集成实战:开源AI观测分析平台助力LLM工作流优化
  • 2026年靠谱的包装设计/成都包装设计/四川包装设计/食品包装设计生产厂家推荐几家 - 行业平台推荐
  • 盘点杭州股权纠纷找本地知名律师事务所,哪家性价比高 - 工业推荐榜
  • Arduino多任务实战:用millis函数替代delay的5个经典场景(附代码)
  • Mem Reduct:轻量级Windows内存优化工具全指南
  • ROS 1/2混搭开发避坑指南:除了ros1_bridge,你还需要注意这几点
  • 2026年评价高的高导电抗氧化二硼化钛粉体/聚合物基PTC材料导电填料用二硼化钛粉体厂家推荐及采购指南 - 行业平台推荐
  • 从Python课设到实战工具:手把手教你用PyQt5和PyJWT打造自己的JWT安全测试GUI
  • 从零开始学目标检测|YOLO 系列从入门到部署
  • Abp动态http接口数据有缓存
  • 广州绿净丰这家过滤器靠谱生产商,选购时要注意什么? - mypinpai
  • 2026年知名的山东全自动碾米机/山东成套碾米机热门厂家推荐汇总 - 行业平台推荐
  • Transformer架构与文本生成机制
  • 2026年靠谱的除臭/养殖除臭机/养殖除臭厂家推荐及选购指南 - 行业平台推荐
  • Keil5环境下编译旧版CMSIS-DAP固件踩坑记:以STM32F103为例
  • 学术论战下的NMN 2.0时代:2026年NMN合规品牌榜,5大品牌顶刊实证对比 - 速递信息
  • 从零开始学 TensorFlow|工业级深度学习框架实战
  • 告别窗口混战:如何用Loop构建个人化工作空间
  • 台州打玻尿酸怎么选?越是简单项目越要看机构 - 资讯焦点