当前位置: 首页 > news >正文

【YOLOv11多模态融合改进】| CVPR2025 LCA轻量交叉注意力 双向模态交叉引导 + 双支路噪点抑制,兼顾纹理与热目标特征融合

一、本文介绍

本文记录的是利用LCA轻量交叉注意力改进YOLOv11的可见光-红外双模态目标检测

LCA(Lighten Cross-Attention)通过对称双向交叉注意力CAB、可见光颜色去噪层CD与红外强度增强层IEL三分支协同结合搭建可见光纹理、红外热特征双向引导交互通路,实现两类模态互补信息精准传递。本文利用LCA模块,以红外强度分支为K/V引导可见光色度分支滤除低照度暗噪声,同时以可见光纹理分支反向补全红外模糊热目标轮廓,分别通过CD层剥离可见光无效杂波、IEL放大红外弱小目标热辐射特征,搭配残差连接保留多模态原始细节信息,针对性强化红外弱小热目标轮廓与可见光清晰纹理特征,强效抑制可见光暗区杂波、红外灰度模糊两类模态干扰在多模态特征交互阶段实现可见光色彩细节与红外热语义高效互补,规避传统拼接融合信息割裂、标准交叉注意力算力冗余缺陷,显著提升夜间复杂场景下可见光红外融合图像质量与弱小目标检测分割精度。


专栏目录:《多模态模型改进》目录一览 | 专栏介绍 ,多模态的全方位改进,提供多模态模型改进完整项目包-开箱即用

专栏地址:YOLO系列模型的多模态融合改进——极易上手、非常好发文的多模态改进教程!

文章目录

  • 一、本文介绍
  • 二、LCA介绍
    • 2.1 设计出发点
    • 2.2 模块结构
    • 2.3 模块优势
  • 三、LCA实现代码
  • 四、添加步骤
    • 4.1 修改一
    • 4.2 修改二
    • 4.3 修改三
  • 五、yaml模型文件
    • 5.1 中期融合⭐
    • 5.2 中-后期融合⭐
    • 5.3 后期融合⭐
  • 六、成功运行结果

二、LCA介绍

2.1 设计出发点

可见光模态富含纹理、色彩、边缘细节,但夜间/低照度场景信噪比极低,暗区噪声泛滥;红外模态依靠热辐射凸显弱小目标、暗区物体轮廓,但缺失真实色彩与精细纹理。现有多模态融合网络存在三大缺陷:

  1. 简单拼接/逐加融合仅做浅层特征叠加,无法建立可见光纹理、红外热特征的双向引导关联,两类模态互补信息无法精准互通;
  2. 普通自注意力仅单模态内部建模,跨模态交互匮乏,红外热目标易被可见光暗噪声淹没,可见光有效纹理易被红外灰度信息覆盖;
  3. 标准Transformer交叉注意力参数量、计算量庞大,多模态实时检测/分割部署困难,且无法针对性区分暗区噪声与有效多模态特征。
    因此提出轻量交叉注意力LCA,构建可见光(HV色度分支)、红外(强度I分支)双向引导机制,用轻量化跨注意力实现两类模态特征互补交互,同步抑制可见光暗噪、强化红外弱小热目标,兼顾融合精度与推理速度。

2.2 模块结构

LCA(Lighten Cross-Attention)由对称交叉注意力块CAB、颜色去噪层CD、强度增强层IEL三部分组成,适配可见光-红外双分支多模态架构:

  1. 交叉注意力块CAB(双向模态交互核心)
    采用对称双路QKV映射:可见光HV分支特征作为Query,红外I分支特征作为Key/Value做交叉注意力,用红外热轮廓引导可见光暗区去噪;反向以红外I分支为Query、可
http://www.jsqmd.com/news/1182964/

相关文章:

  • 12、 AI + 讯飞听见:跨省双语客服沟通会议
  • Leaflet-plugins完全指南:解锁地图开发的终极插件集合
  • Mixtral-8x7B-Instruct-v0.1-da8w8-torchao-v0.17.0 vs 原版模型:CPU推理速度提升200%的秘密
  • Drab安装完全指南:Phoenix应用集成步骤与常见问题解决
  • 3分钟学会:在Windows 10上运行Android应用的完整指南
  • 数码产品回收销售排行:具备验货服务的可信服务商盘点 - 互联网科技品牌测评
  • 深入理解环境变量:从配置到原理,全景解析
  • 深入 Git:它是如何记录世界的(二)
  • 如何5分钟上手ino:Arduino命令行工具完全入门指南
  • 5步快速上手Hermes Studio:从零开始构建AI对话工作台终极指南
  • 东南大学等打造:让机器人真正“看懂世界、动起来“的统一推理引擎
  • 南亚NT5CC256M16ER-EKT:4Gb DDR3L SDRAM内存颗粒技术规格
  • Unity URP动态天空盒实现:程序化昼夜循环与大气散射实战
  • 深入理解 Rust 所有权
  • Unity FSM框架设计:从零构建可扩展的AI行为状态机
  • Nanite监控与故障恢复:确保Ruby服务稳定运行的10个关键策略
  • 终极nosa命令参考:nestos-assembler 30+实用指令全解析
  • Stage 应用包结构:entry、feature、har、hsp 如何拆
  • Copilot写不出正确代码?不是模型问题,是这4类注释结构在 silently sabotage 你的补全质量
  • AI肉鸡/肉鸭/肉鹅多品类防疫注射机器人 Qt信创完整项目
  • AMD显卡AI绘画终极指南:ComfyUI-Zluda完整安装与优化教程
  • LinearRAG: Linear Graph Retrieval Augmented Generation on Large-scale Corpora——面向大规模语料的线性图检索增强生成
  • 网页数据提取实战 ※ 第1关:从HTML表格到结构化数据
  • 为什么“老方法“在高维数据搜索中反而越来越好用?
  • kytuning-server扩展开发教程:如何添加新的基准测试工具支持
  • 如何快速上手Gemma-4-E2B-it-qat-OptiQ-4bit:5分钟完成安装与首次推理
  • 如何用ChatGPT查询真实文献,并轻松撰写文献综述,七步搞定,全攻略指南
  • 2026 年 7 月南京屋顶外墙防水测评|正规工程防水商家实力排名 - 苏易房屋修缮
  • 消息中间件面试精讲:RabbitMQ/Kafka核心概念、消息丢失与重复消费解决方案
  • 从示例到源码:深入理解RequireJS Plugins的工作原理