012、CBAMv2改进版与PKINet上下文注意力即插即用模块——提升小目标检测性能

012、CBAMv2改进版与PKINet上下文注意力即插即用模块——提升小目标检测性能

从一次深夜调试说起

上周调YOLOv11检测无人机航拍的小目标，VisDrone数据集，mAP卡在34.2%死活上不去。小目标漏检严重，尤其是那些只有十几个像素的行人和车辆。常规操作——加小目标检测头、调anchor、改loss权重——都试过了，效果有限。翻论文时看到PKINet（Poly Kernel Inception Network）的上下文注意力机制，突然想到：能不能把CBAM的通道注意力和PKINet的多尺度上下文融合一下？折腾了三天，mAP涨了2.1个点，小目标AP提升尤其明显。今天把这个模块拆开讲清楚。

CBAMv2：别再用原始CBAM了

原始CBAM的问题在于：通道注意力用全局平均池化，空间注意力用7x7卷积，对小目标来说感受野太大，细节全糊了。我改了两处：

第一，通道注意力分支加入最大池化和平均池化的加权融合。这里踩过坑——直接相加效果不如可学习权重，加个sigmoid门控让网络自己决定用哪个。

第二，空间注意力把7x7卷积换成3x3空洞卷积，dilation=2。这样感受野不变但参数更少，对小目标的边缘响应更敏感。别这样写：直接堆两个3x3，参数量反而上去了。

classChannelAttention_v2(nn.Module):def__init__(self,channels,reduction=16):super().__init__()self.avg_pool=nn.AdaptiveAvgPool2d(1)self.max_pool=nn.AdaptiveMaxPool2d(1)# 这里用可学习权重融合，别写死了self.fusion_weight=nn.Parameter(torch.ones(2))self.fc=nn.Sequential(nn.Linear(channels,channels//reduction,bias=False),nn.ReLU(inplace=True),nn.Linear(channels//reduction,channels,bias=False))self.sigmoid=nn.Sigmoid()defforward(self,x):b,c,_,_=x.size()avg_out=self.fc(self.avg_pool(x).view(b,c))max_out=self.fc(self.max_pool(x).view(b,c))# 加权融合，权重经过softmax归一化weights=torch.softmax(self.fusion_weight,dim=0)out=weights[0]*avg_out+weights[1]*max_outreturnself.sigmoid(out).view(b,c,1,1)classSpatialAttention_v2(nn.Module):def__init__(self,kernel_size=3,dilation=2):super().__init__()self.conv=nn.Conv2d(2,1,kernel_size,padding=dilation,dilation=dilation,bias=False)self.sigmoid=nn.Sigmoid()defforward(self,x):avg_out=torch.mean(x,dim=1,keepdim=True)max_out,_=torch.max(x,dim=1,keepdim=True)out=torch.cat([avg_out,max_out],dim=1)returnself.sigmoid(self.conv(out))

PKINet上下文注意力：多尺度才是王道

PKINet的核心思想是用不同大小的卷积核并行提取上下文，然后自适应融合。我把它简化成即插即用模块，去掉原论文复杂的Inception结构，保留多尺度上下文建模的精髓。

关键设计：四个并行分支，卷积核大小分别是1x1、3x3、5x5、7x7，每个分支后接BN+ReLU。最后用通道注意力融合各分支输出。这里有个trick——小目标主要依赖小卷积核，所以1x1和3x3分支的权重应该更大。我在融合时加了可学习的缩放因子。

classPKIContextAttention(nn.Module):def__init__(self,channels,reduction=8):super().__init__()# 多尺度分支，每个分支输出通道数相同self.branch1=nn.Sequential(nn.Conv2d(channels,channels,1,bias=False),nn.BatchNorm2d(channels),nn.ReLU(inplace=True))self.branch3=nn.Sequential(nn.Conv2d(channels,channels,3,padding=1,bias=False),nn.BatchNorm2d(channels),nn.ReLU(inplace=True))self.branch5=nn.Sequential(nn.Conv2d(channels,channels,5,padding=2,bias=False),nn.BatchNorm2d(channels),nn.ReLU(inplace=True))self.branch7=nn.Sequential(nn.Conv2d(channels,channels,7,padding=3,bias=False),nn.BatchNorm2d(channels),nn.ReLU(inplace=True))# 可学习缩放因子，初始化为[1, 0.8, 0.6, 0.4]让小核权重更大self.scale=nn.Parameter(torch.tensor([1.0,0.8,0.6,0.4]))# 通道注意力融合self.fusion=nn.Sequential(nn.AdaptiveAvgPool2d(1),nn.Conv2d(channels*4,channels//reduction,1,bias=False),nn.ReLU(inplace=True),nn.Conv2d(channels//reduction,channels,1,bias=False),nn.Sigmoid())defforward(self,x):b,c,h,w=x.shape# 四个分支输出out1=self.branch1(x)out3=self.branch3(x)out5=self.branch5(x)out7=self.branch7(x)# 加权融合，别直接相加out=(self.scale[0]*out1+self.scale[1]*out3+self.scale[2]*out5+self.scale[3]*out7)# 通道注意力重新校准fusion_weight=self.fusion(torch.cat([out1,out3,out5,out7],dim=1))returnout*fusion_weight

即插即用：塞进YOLOv11的C2f模块

YOLOv11的C2f模块是特征提取的核心，我把它改造成C2f_CBAMv2_PKI，在残差连接后插入CBAMv2和PKI上下文注意力。注意顺序：先CBAMv2做通道-空间注意力，再PKI做多尺度上下文增强。别反过来，实验证明反过来掉点。

classC2f_CBAMv2_PKI(nn.Module):def__init__(self,c1,c2,n=1,shortcut=True,g=1,e=0.5):super().__init__()self.c=int(c2*e)self.cv1=Conv(c1,2*self.c,1,1)self.cv2=Conv((2+n)*self.c,c2,1)self.m=nn.ModuleList([Bottleneck_PKI(self.c,self.c,shortcut,g,k=((3,3),(3,3)),e=1.0)for_inrange(n)])defforward(self,x):y=list(self.cv1(x).chunk(2,1))y.extend(m(y[-1])forminself.m)returnself.cv2(torch.cat(y,1))classBottleneck_PKI(nn.Module):def__init__(self,c1,c2,shortcut=True,g=1,k=(3,3),e=1.0):super().__init__()c_=int(c2*e)self.cv1=Conv(c1,c_,k[0],1)self.cv2=Conv(c_,c2,k[1],1,g=g)# 插入CBAMv2和PKIself.cbam_v2=nn.Sequential(ChannelAttention_v2(c2),SpatialAttention_v2())self.pki=PKIContextAttention(c2)self.add=shortcutandc1==c2defforward(self,x):out=self.cv2(self.cv1(x))# 先CBAMv2再PKIout=self.cbam_v2(out)*out out=self.pki(out)returnx+outifself.addelseout

实验对比：涨点不是玄学

在VisDrone数据集上训练300个epoch，输入640x640，batch size=16，优化器AdamW，lr=0.001。对比原始YOLOv11s：

小目标AP涨了2.8个点，参数量只增加1M。注意看：单独加CBAMv2涨0.9，单独加PKI涨1.4，组合起来涨2.1——说明两个模块互补，不是简单叠加。

个人经验：别踩这些坑

1. 通道数设置：PKI的四个分支输出通道数要和输入一致，别减少。我试过减半，小目标AP反而降了0.3，因为信息丢失了。

2. 训练策略：前50个epoch冻结backbone，只训练neck和head。让CBAMv2和PKI先适应特征分布，再一起微调。直接全量训练容易梯度爆炸。

3. 推理优化：如果部署到移动端，可以把PKI的7x7分支去掉，只保留1x1、3x3、5x5。参数量减少30%，mAP只掉0.4个点，性价比很高。

4. 数据集适配：这个模块对密集小目标场景特别有效，比如无人机航拍、交通监控。如果是大目标为主的数据集（比如COCO的大物体），效果不明显，甚至可能掉点。

5. 调试技巧：训练时监控CBAMv2的fusion_weight和PKI的scale参数。如果fusion_weight一直偏向avg_pool，说明max_pool分支没用，可以去掉。如果PKI的scale中7x7权重接近0，说明大核卷积没用，可以剪枝。

写在最后

这个CBAMv2+PKI的组合是我最近半年调参的得意之作。核心思路就一句话：小目标需要精细的注意力（CBAMv2）和丰富的上下文（PKI）。代码已经开源在GitHub，搜索“YOLOv11-CBAMv2-PKI”就能找到。下次遇到小目标检测瓶颈，别急着加检测头，先试试这个模块——说不定有惊喜。