Coordinate Attention for Efficient Mobile Network Design笔记

1. 论文基本信息

标题：Coordinate Attention for Efficient Mobile Network Design
作者：Qibin Hou, Jiashi Feng, Daquan Zhou
机构：新加坡国立大学 (National University of Singapore)、SEA AI Lab
刊物：CVPR 2021 (IEEE/CVF Conference on Computer Vision and Pattern Recognition)
发表时间：2021年

2.研究背景与意义

传统的 SENet 因依赖 2D 全局池化而丢失了关键的空间坐标；而 CBAM 等方法虽然引入了空间注意力，却因通道降维和卷积操作的局部性，导致了信息流失且无法有效建模全局的长距离依赖关系。

3. 研究方法与实验设计

zch(h)=1W∑0≤i<Wxc(h,i)z_c^h(h) = \frac{1}{W} \sum_{0 \le i < W} x_c(h, i)zch​(h)=W1​0≤i<W∑​xc​(h,i)整个 X 轴（宽度方向）被压缩了，但 Y 轴的坐标（高度hhh）被完美保留了下来！ 这就是为什么公式左边叫zch(h)z_c^h(h)zch​(h)，括号里的hhh就是它死死守住的垂直坐标。
zcw(w)=1H∑0≤j<Hxc(j,w)z_c^w(w) = \frac{1}{H} \sum_{0 \le j < H} x_c(j, w)zcw​(w)=<