心电自监督论文分享(4) —— LCD:基于导联相关与去相关的自监督心电图分类
Self-supervised learning for Electrocardiogram classification using Lead Correlation and Decorrelation (LCD)
研究背景与动机
心电图(ECG)是心血管疾病(CVD)诊断中最常用的无创、低成本工具,标准 ECG 通常包含 12 个导联,每个导联从身体不同部位采集心脏电活动信号。深度学习在自动 ECG 分析中展现了巨大潜力,但其训练通常依赖大量有标注数据,而 ECG 标注需要心内科专家完成,成本极高且耗时长。自监督学习(SSL)通过利用无标注数据预训练模型,能有效缓解对标注数据的依赖。现有 ECG 自监督方法主要分为两类:
通用数据增强CL 方法(如 RRC-TO、VCG-based、时空变换等):直接套用通用对比学习框架(SimCLR、BYOL 等),未充分利用多导联 ECG 的独特特性,性能受限。
针对ECG的 CL方法 (如 DLC、MRC):可以挖掘 ECG 特性,但依赖复杂架构/操作,预训练计算开销大(DLC 损失函数组合了 64 个对比损失,MRC 依赖 QRS 检测算法)。
因此,开发一种既有效又高效的 ECG 自监督学习机制仍是一个开放问题。文章提出的LCD(Lead Correlation and Decorrelation)方法从多导联 ECG 的四个基本特性出发进行设计,在不依赖复杂架构的前提下实现高效预训练。
数据集与实验任务
- 预训练阶段:在 NFH(宁波第一医院)34,905 条 未标注 12 导联 ECG 数据上进行自监督预训练,预训练 100 个 epochs。
- 下游任务:在三个公开数据库上进行心律失常分类评估,PTB-XL:5 类(正常、传导障碍、心肌肥厚、心肌梗死、ST/T 改变),CPSC 2018:9 类(正常、房颤、一度房室传导阻滞、左束支传导阻滞、右束支传导阻滞、房性早搏、室性早搏、ST 段压低、ST 段抬高),Chapman:4 类(房颤、室上性心动过速、窦性心动过缓、窦性心律)
- 数据预处理:去除冗余导联(I、aVR、aVL、aVF 可由 II、III 线性推导),保留 8 个独立导联(II, III, V1~V6),重采样至 2048 点,z-score 归一化。
- 评估范式:线性探测(Linear Probing)+ 微调(Fine-tuning,仅用 10% 标注数据),指标为 AUROC和 AUPRC。
架构图与核心方法
- LCD 的核心思想源于多导联 ECG 的四个基本特性:
| 特性 | 含义 | LCD 对应机制 |
|---|---|---|
| Intra-lead Invariance(导联内不变性) | 同一导联的不同数据增强视图应提取到不变的语义特征 | 导联内相关(Intra-lead Correlation) |
| Inter-lead Invariance(导联间不变性) | 不同导联反映同一心脏状态,共享跨导联不变特征 | 导联间相关(Inter-lead Correlation) |
| Inter-lead Variance(导联间差异性) | 不同导联具有独特的区分性特征,不应被过度对齐 | 导联间去相关(Inter-lead Decorrelation) |
| Intra-lead Redundancy(导联内冗余性) | ECG 是准周期信号,多周期之间存在信息冗余 | 导联内去相关(Intra-lead Decorrelation) |
- LCD 的预训练流程为:数据增强:使用 RRC-TO(Random Resize and Crop-Time Out)对一批 8 导联x \boldsymbol{x}x创建三个视图x A , x B , x C \boldsymbol{x}^A,\ \boldsymbol{x}^B,\ \boldsymbol{x}^CxA,xB,xC, 随机导联选择:从x A \boldsymbol{x}^AxA选导联i ii,从x B \boldsymbol{x}^BxB选导联j jj(i ≠ j i \neq ji=j),从x C \boldsymbol{x}^CxC选导联i ii,得到三个单导联视图( x i A , x j B , x i C ) \left(\boldsymbol{x}^A_i,\ \boldsymbol{x}^B_j,\ \boldsymbol{x}^C_i\right)(xiA,xjB,xiC)。通过上面的四个基本特性设置损失函数,其中,同一导联在不同增强方式下应当接近,不同导联应当有共同的特征(反映同一疾病),不同导联应当减少冗余并且有自己独特的特征。预训练得到的编码器用于下游任务,下游任务根据一定的标注数据来进行分类。
- 三大机制详解
(1) 导联内相关 (Intra-lead Correlation)**:借鉴 BYOL 的非对称架构
- Online 网络处理x i A \boldsymbol{x}^A_ixiA:编码器f θ f_\thetafθ→ 投影器g θ g_\thetagθ→ 预测器p θ p_\thetapθ→q i A \boldsymbol{q}^A_iqiA
- Target 网络处理x i C \boldsymbol{x}^C_ixiC:编码器f ξ f_\xifξ→ 投影器g ξ g_\xigξ→z i C \boldsymbol{z}^C_iziC(ξ \xiξ为θ \thetaθ的 EMA)
L r = ∥ q ˉ i A − z ˉ i C ∥ 2 2 \mathcal{L}_r = \left\Vert \bar{\boldsymbol{q}}^A_i - \bar{\boldsymbol{z}}^C_i \right\Vert_2^2Lr=qˉiA−zˉiC22
最小化L r \mathcal{L}_rLr迫使模型提取同一导联在数据增强下不变的核心特征。
(2) 导联间相关 (Inter-lead Correlation)**:同样使用 BYOL 架构
- Online 网络处理x j B \boldsymbol{x}^B_jxjB,Target 网络处理x i C \boldsymbol{x}^C_ixiC
L t = ∥ q ˉ j B − z ˉ i C ∥ 2 2 \mathcal{L}_t = \left\Vert \bar{\boldsymbol{q}}^B_j - \bar{\boldsymbol{z}}^C_i \right\Vert_2^2Lt=qˉjB−zˉiC22
最小化L t \mathcal{L}_tLt迫使模型聚焦于跨导联共享的不变特征。
(3) 导联内与导联间去相关 (Intra-lead and Inter-lead Decorrelation):借鉴 Barlow Twins
将两个不同导联的嵌入向量沿特征拼接:Z ^ = [ z i A ; z j B ] \hat{\boldsymbol{Z}} = [\boldsymbol{z}^A_i; \boldsymbol{z}^B_j]Z^=[ziA;zjB],归一化后计算交叉相关矩阵
C = 1 N Z ⊤ Z \boldsymbol{C} = \frac{1}{N}\boldsymbol{Z}^\top \boldsymbol{Z}C=N1Z⊤Z
L d = ∑ k ( 1 − C [ k , k ] ) + λ ∑ k ∑ m ≠ k ( C [ k , m ] ) 2 \mathcal{L}_d = \sum_k \big(1 - \boldsymbol{C}[k,k]\big) + \lambda \sum_k \sum_{m \neq k} \big(\boldsymbol{C}[k,m]\big)^2Ld=k∑(1−C[k,k])+λk∑m=k∑(C[k,m])2
- 第一项:迫使对角线元素趋近 1(各特征维度保持信息量)
- 第二项:迫使非对角线元素趋近 0(不同特征维度之间去冗余)
- λ = 0.005 \lambda = 0.005λ=0.005
这一操作同时完成了导联内去相关(减少周期冗余)和导联间去相关(保留导联差异性),防止导联间相关过度导致表征坍缩。
(4)总损失与下游推理
L lcd = L r + L t + γ ⋅ L d , γ = 0.005 \mathcal{L}_{\text{lcd}} = \mathcal{L}_r + \mathcal{L}_t + \gamma \cdot \mathcal{L}_d,\quad \gamma = 0.005Llcd=Lr+Lt+γ⋅Ld,γ=0.005
下游推理:LCD 预训练出的编码器f θ f_\thetafθ是一个通用单导联编码器,适用于任意导联。处理多导联 ECG 时,采用MBN (Multiple-Branch Network)架构:
h i = f θ ( x i ) , i = 1 , 2 , … , C \boldsymbol{h}_i = f_\theta(\boldsymbol{x}_i),\quad i = 1,2,\dots,Chi=fθ(xi),i=1,2,…,C
y ^ = σ ( ω ⋅ [ h 1 ; h 2 ; … ; h C ] + b ) \hat{\boldsymbol{y}} = \sigma\big(\boldsymbol{\omega} \cdot [\boldsymbol{h}_1;\boldsymbol{h}_2;\dots;\boldsymbol{h}_C] + \boldsymbol{b}\big)y^=σ(ω⋅[h1;h2;…;hC]+b)
每个导联独立提取特征后拼接,经线性分类器 + Softmax 输出预测。
实验结果与结论
线性探测结果
- ECG 特定方法(LCD、DLC、MRC)始终优于通用 SSL 方法(SimCLR、MoCo、BYOL 等)
- LCD 在 CPSC 上比最好的通用方法 BYOL 提升 3.27% AUROC 和 8.31% AUPRC
微调结果(仅用 10% 标注数据)
LCD 在所有三个数据库上均取得最佳或可比的最优性能。
预训练效率对比
LCD 显著快于依赖复杂架构的 DLC/MRC,在保持/超越性能的同时大幅降低预训练计算成本。
消融实验
GradCAM 可视化分析
心肌梗死样本:LCD 预训练模型准确聚焦于病理性 Q 波区域,从头训练模型无法定位关键病理特征
ST段抬高样本:LCD 模型识别 ST 段抬高区域,从头训练模型在低标注场景下未能捕捉
室上性心动过速样本:LCD 模型关注 RR 间期(心率特征),从头训练模型未识别
LCD 预训练使模型在标注数据稀缺时仍能聚焦于有意义的病理特征。
局限性与发展
优势
- 高效且有效:不依赖复杂架构或操作(如 DLC 的 64 个对比损失、MRC 的 QRS 检测),在性能相当或更优的前提下,预训练速度比 DLC 快5.56×、比 MRC 快1.30×
- 通用单导联编码器:预训练得到的编码器可处理任意导联,通过 MBN 架构无缝扩展到多导联 ECG 处理
- ECG 特性驱动设计:从多导联 ECG 的四个固有特性出发,系统性地设计了相关/去相关机制,而非简单套用通用 SSL 框架
- 极低标注依赖:可将标注数据需求降低 4~6 倍,显著缓解实际场景中 ECG 标注成本高昂的瓶颈
- 可解释性强:GradCAM 可视化证实 LCD 预训练使模型在低标注场景下也能准确定位病理特征区域
局限性
- 预训练与下游任务关系不明:无法针对特定下游任务优化预训练质量,这是 SSL 方法的共性问题
- 仍需部分标注数据:虽然将标注需求降低了 4~6 倍,但下游微调仍依赖标注 ECG
- 仅在处理过的公开数据库上验证:这些数据库已做过类别/年龄/性别平衡并移除了低质量 ECG,可能高估 LCD 在实际医院未处理数据上的表现
- 仅聚焦 ECG:理论上可推广至类似信号(如多导联 EEG),但尚未在其他信号上验证
未来拓展方向
- 定量分析 LCD 机制间的交互关系:为不同下游任务自适应调整各机制的贡献权重
- 引入零样本学习(ZSL):将 LCD 与 ZSL 融合,进一步减少甚至消除对标注 ECG 的需求
- 在真实医院未处理数据库上评估:更可靠地衡量 LCD 在实际临床环境中的性能
- 跨信号泛化:将 LCD 扩展到多导联 EEG 等其他多通道 1-D 信号的自监督学习
代码地址:https://github.com/Aiwiscal/ECG_SSL_LCD
