【注意力机制】CVPR 2025 | Lighten Cross-Attention (LCA)：轻量化交叉注意力融合色度-强度特征，双路协同增强照亮暗部！

一、论文信息

• 论文标题：HVI: A New Color Space for Low-light Image Enhancement
• 论文链接：https://arxiv.org/abs/2502.20272
• 发表会议：CVPR 2025
• 所属机构：Northwestern Polytechnical University / The University of Adelaide
• 代码仓库：https://github.com/Fediory/HVI-CIDNet

二、模块概述

Lighten Cross-Attention (LCA)是一种轻量化交叉注意力模块，用于 CIDNet（Color and Intensity Decoupling Network）中，在 HVI（Horizontal/Vertical-Intensity）颜色空间的色度（HV）和强度（I）两个并行编码器-解码器分支之间进行跨分支特征交互。

LCA 的核心设计思路是：将低光照图像的增强分解为两个并行的子任务——色度信息处理（HV Pathway）和强度信息处理（I Pathway），并通过轻量化的交叉注意力机制让两个分支互相指导、互补增强。在编码器和解码器的每个层级之间，LCA 模块对两条路径的特征进行交互融合，实现色度-强度的协同优化。

关键特性

• 轻量化：使用深度可分离卷积 + 多头交叉注意力，参数量极小
• 双向交互：HV → I 和 I → HV 两条路径同时进行交叉注意力
• 即插即用：可直接嵌入到编码器-解码器架构的跳跃连接处

三、模块结构详解

3.1 CIDNet 架构概览

CIDNet 的整体架构如下：

LCA 模块被放置在 HV 和 I 两条路径的对应层级之间（共 6 处），实现跨路径特征交互。

3.2 LCA 模块的内部结构

LCA 模块包含两个核心子模块：

1. CAB（Cross Attention Block）：跨多头注意力块
2. IEL（Intensity Enhancement Layer）：强度增强层（门控前馈网络）

HV_LCA 与 I_LCA

LCA 有两种变体，分别用于两条路径：

HV_LCA:X = X + C A B ( L N ( X ) , L N ( Y ) ) X = X + CAB(LN(X), LN(Y))X=X+CAB(LN(X),LN(Y)),X = I E L ( L N ( X ) ) X = IEL(LN(X))X=IEL(LN(X))

I_LCA:X = X + C A B ( L N ( X ) , L N ( Y ) ) X = X + CAB(LN(X), LN(Y))X=X+CAB(LN(X),LN(Y)),X = X + I E L ( L N ( X ) ) X = X + IEL(LN(X))X=X+IEL(LN(X))

两者的区别在于：I_LCA 在 IEL 后额外保留了一条残差连接，使得 Intensity 路径的信息能够更完整地保留。

3.3 CAB（Cross Attention Block）

CAB 是 LCA 的核心注意力组件，执行标准的多头交叉注意力操作：

# 伪代码逻辑defforward(self,x,y):# x 作为 Query, y 作为 Key/Valueq=DWConv(Conv1×1(x))# 深度可分离卷积处理 Queryk,v=chunk(DWConv(Conv1×1(y)))# 深度可分离卷积处理 Key/Value# 多头注意力q=normalize(q)# L2 归一化k=normalize(k)# L2 归一化attn=softmax(q @ k^T*temperature)# 可学习温度缩放out=attn @ vreturnConv1×1(out)

详细实现：

q = D W C o n v 3 × 3 ( C o n v 1 × 1 ( x ) ) q = DWConv_{3\times3}(Conv_{1\times1}(x))q=DWConv3×3​(Conv