【注意力机制】AAAI 2026 | DCMM：度修正混合成员注意力模块，可微社区结构建模让医学影像分析更精准！

论文: DCMM-Transformer: Degree-Corrected Mixed-Membership Attention for Medical Imaging
作者: Huimin Cheng, Xiaowei Yu, Shushan Wu, Luyang Fang, Chao Cao, Jing Zhang, Tianming Liu, Dajiang Zhu, Wenxuan Zhong, Ping Ma
发表: AAAI 2026 (AAAI Conference on Artificial Intelligence)
论文链接: https://arxiv.org/abs/2511.12047
代码链接: 无官方开源代码（本文根据论文内容实现）

一、引言

医学影像分析是计算机视觉在医疗领域中的核心应用之一。Vision Transformer (ViT) 及其变体在医学图像分类、分割等任务中取得了优异的成绩。然而，医学图像具有天然的结构化特性——图像中的不同区域（如器官、组织、病灶）往往形成有意义的"社区"（Community），而同属一个社区内的图像块（Patch）之间具有更强的相关性。

标准的 ViT 将所有图像块一视同仁，仅通过特征相似度计算注意力权重，完全忽略了这种潜在的社区结构。这就好比一个医生在看CT片时，如果不了解解剖结构，就很难做出准确判断。

虽然已有工作（如 SBM-Transformer）尝试通过随机二进制掩码引入社区结构，但存在不可微、训练不稳定、无法建模复杂社区关系等问题。本文提出的DCMM-Transformer通过将度修正混合成员模型（Degree-Corrected Mixed-Membership, DCMM）以可微的加性偏置形式融入自注意力机制，优雅地解决了上述问题。

二、核心动机

现有方法的局限性：SBM-Transformer 使用随机块模型（Stochastic Block Model, SBM）生成二进制注意力掩码，但二进制采样导致梯度无法回传，不得不使用 Straight-Through Estimator 等近似方法，带来了优化偏差和高方差问题。更关键的是，SBM 假设同一社区内的所有节点具有相同的连接度，而现实中病灶区域的图像块往往是"连接枢纽"，与其他区域有更广泛的交互。

本文的解决思路：直接建模社区结构矩阵P PP作为注意力 logits 的加性偏置，避免二进制采样；引入度参数θ i \theta_iθi​捕捉不同图像块的重要性差异；使用软成员向量π i \pi_iπi​允许每个图像块同时属于多个社区。最终公式简洁优雅：

Attn DCMM ( Q , K , V , P ) = σ ( Q K ⊤ d h + λ P ) V \text{Attn}_{\text{DCMM}}(Q,K,V,P) = \sigma\left(\frac{QK^\top}{\sqrt{d_h}} + \lambda P\right)VAttnDCMM​(Q,K,V,P)=σ(dh​​QK⊤​+λP)V

三、方法

3.1 模块整体设计

DCMM-Transformer 的核心是在自注意力机制中引入一个社区结构加性偏置矩阵P ∈ R n × n P \in \mathbb{R}^{n \times n}P∈Rn×n，其中每个元素p i j p_{ij}pij​表示图像块i ii和j jj之间的连接概率。

图1：DCMM-Transformer 整体架构

整个模块的前向过程如下：

1. 对每个图像块，从 Query 表示中提取软社区成员向量π i \pi_iπi​和度参数θ i \theta_iθi​
2. 通过可学习的社区嵌入矩阵C CC计算社区间连接概率矩阵B BB
3. 由π i \pi_iπi​、θ i \theta_iθi​和B BB构建偏置矩阵P PP
4. 将P PP加权后加到标准注意力 logits 上

图2：DCMM 偏置构建流程

3.2 核心算法原理

社区检测理论基础：DCMM 模型源自网络科学中的社区检测方法，其一般形式为：

P ( A i j = 1 ) = θ i θ j π i ⊤ B π j P(A_{ij}=1) = \theta_i \theta_j \boldsymbol{\pi}_i^\top B \boldsymbol{\pi}_jP(Aij​=1)=θi​θj​πi⊤​Bπj​

其中π i ∈ [ 0 , 1 ] L \boldsymbol{\pi}_i \in [0,1]^Lπi​∈