当前位置：首页 > news >正文

SpatialAttention空间注意力模块

news 2026/5/12 15:56:05

一、空间注意力（SAM）

通过对特征图空间内部的关系来产生空间注意力特征图。不同于通道注意力，空间注意力(Spatial Attention Mechanism, SAM)聚焦于特征图上的有效信息在"哪里"（where）。

1、空间注意力结构

首先，对一个尺寸为 H×W×C的输入特征图 F 进行通道维度的全局最大池化和全局平均池化，得到两个 H×W×1 的特征图（在通道维度进行池化，压缩通道大小，便于后面学习空间的特征）；
然后，将全局最大池化和全局平均池化的结果，按照通道拼接(concat)，得到特征图尺寸为HxWx2，
最后，对拼接的结果进行7x7的卷积操作，得到特征图尺寸为 HxWx1，接着通过Sigmoid激活函数，得到空间注意力权重矩阵

2、空间注意力计算公式

空间注意力权重矩阵可表示为：

同上，在通道维度使用两种池化方法产生2D特征图：

综上，空间注意力的计算公式如下：

3、实现代码

import torch import torch.nn as nn class SpatialAttentionModule(nn.Module): """ 空间注意力模块：增强特征图中空间位置信息，突出重要区域 1、首先，对一个尺寸为 H×W×C的输入特征图F进行通道维度的全局最大池化和全局平均池化，得到两个 H×W×1 的特征图； 2、然后，将全局最大池化和全局平均池化的结果，按照通道拼接(concat)，得到特征图尺寸为HxWx2； 3、最后，对拼接的结果进行7x7的卷积操作，得到特征图尺寸为 HxWx1，接着通过Sigmoid激活函数 ，得到空间注意力权重矩阵 """ def __init__(self): super().__init__() # 7x7卷积，输入2通道（avg+max），输出1通道注意力权重 self.conv = nn.Conv2d(in_channels=2,out_channels=1,kernel_size=7,padding=3,bias=False) # （偏置会被Sigmoid抵消，无需设置） self.sigmoid = nn.Sigmoid() def forward(self,x): # 1. 通道维度做平均池化，keepdim=True保证形状为[B,1,H,W]（不丢失维度） avgpool_out = torch.mean(x,dim=1,keepdim=True) # keepdim=True 保持输出与输入张量相同的维度。 # 2. 通道维度做最大池化，返回值[0]是池化结果，[1]是最大值索引（无用，舍弃） maxpool_out,_ = torch.max(x,dim=1,keepdim=True) # 3. 在通道维度拼接平均/最大池化结果，形状变为[B,2,H,W]，作为卷积输入 out = torch.cat([avgpool_out,maxpool_out],dim=1) # 4. 7x7卷积融合空间信息，输出[B,1,H,W]的空间注意力图 out = self.conv(out) # 5. Sigmoid归一化，得到0~1的注意力权重（越接近1，该空间位置越重要） out = self.sigmoid(out) # 6. 注意力加权：原特征图和权重逐元素相乘（广播机制，1通道权重作用于C个通道） out = x * out return out

二、注意事项

1、为什么这么设计？

空间注意力模块的设计思路是先压缩通道信息，再融合空间信息，原因如下：

通道池化（mean+max）：对每个空间位置（H，W），将 C 个通道的特征压缩为平均值和最大值两个标量，得到 2 个[H,W]的二维特征图，既保留了空间信息，又大幅降低了计算量；
7x7 大卷积核：相比 3x3 卷积，7x7 能捕捉更大的空间感受野，更适合挖掘特征图中长距离的空间依赖关系（这也是空间注意力用 7x7，而通道注意力用 1x1 的原因）；
Sigmoid 归一化：将卷积输出映射到 0~1，保证注意力权重是非负的缩放因子，不会改变原特征的分布趋势，仅对重要区域做增强、不重要区域做抑制。