YOLO26改进策略【Backbone/主干网络】| ICLR-2023 替换骨干网络为：RevCol 一种新型神经网络设计范式
一、本文介绍
本文记录的是基于RevCol的YOLO26目标检测骨干网络改进方法研究。
RevCol是一种新型神经网络设计范式，它由多个子网（列）及多级可逆连接构成，正向传播时特征逐渐解缠结且保持信息。可逆变换借鉴可逆神经网络思想，设计多级可逆单元用于解决模型对特征图形状的限制以及与信息瓶颈原则的冲突。
本文将其应用到YOLO26中，并配置了原论文中的revcol_tiny、revcol_small、revcol_base、revcol_large和revcol_xlarge五种不同大小的模型，以适应不同的需求。
文章目录
- 一、本文介绍
- 二、RevCol模型设计
- 2.1出发点
- 2.2 原理
- 2.2.1 可逆变换的核心作用
- 2.2.2 中间监督机制
- 2.3 结构
- 2.3.1 宏观设计
- 2.3.2 微观设计
- 2.4 优势
- 三、RevCol的实现代码
- 四、修改步骤
- 4.1 修改一
- 4.2 修改二
- 4.3 修改三
- 五、yaml模型文件
- 5.1 模型改进⭐
- 六、成功运行结果
二、RevCol模型设计
2.1出发点
- 信息瓶颈原则的局限：传统监督学习网络遵循信息瓶颈原则（IB），如图所示，靠近输入的层包含更多低级信息，靠近输出的层富含语义信息，即与目标无关的信息在逐层传播中逐渐被压缩。但这种方式可能导致下游任务性能不佳，尤其当学习到的特征过度压缩或语义信息与目标任务无关，且源任务和目标任务存在领域差距时。
- 解缠结特征学习的需求：提出构建网络学习解缠结表示，不同于
IB学习，解缠结特征学习旨在将任务相关概念或语义分别嵌入到几个解耦维度，同时保持整个特征向量大致与输入有相同信息量，类似于生物细胞机制。
在计算机视觉任务中，学习解缠结特征是合理的，例如在Imag