角间隔损失：从人脸识别到异常声音检测的跨界应用

1. 项目概述：角间隔损失如何革新半监督异常声音检测

在工业设备状态监控、智能家居安防或生物声学监测等场景中，我们常常面临一个核心挑战：如何仅凭大量正常的运行声音，就能精准地识别出那些罕见但关键的异常声响？比如，一台大型风扇轴承的早期磨损声，或者流水线上某个阀门微弱的泄漏声，这些异常往往被淹没在嘈杂的工厂背景噪音中。传统的基于自编码器或单类分类的异常检测模型，在这种复杂声学环境下常常力不从心，因为它们倾向于平等地对待所有声音成分，包括无关的背景噪声，导致对真正的机器异常不够敏感。

近年来，一个来自人脸识别领域的技术——角间隔损失（Angular Margin Loss），如ArcFace、CosFace等，却在半监督异常声音检测任务中展现出了令人瞩目的优势。这听起来有些跨界，但其背后的逻辑却异常深刻：它通过一个辅助的分类任务（例如，区分不同的机器类型或工作状态），迫使神经网络学习到一种高度判别性的声音特征表示。这种表示不仅能让同类正常声音在特征空间里聚拢，还能让不同类的声音彼此远离，更重要的是，它让模型学会了“专注”——专注于目标机器本身的声音特征，而忽略那些与分类任务无关的背景噪声。

这篇博文，我将结合自己多年在音频信号处理和机器学习交叉领域的实战经验，深入拆解角间隔损失在半监督异常声音检测中“为什么有效”以及“如何用好”。我们将从损失函数的设计原理出发，一步步剖析它如何隐式地优化类内紧凑性与类间可分性，并通过在DCASE挑战赛数据集上的实验，直观展示其相比传统方法的巨大优势。无论你是正在构建工业预测性维护系统的工程师，还是对表示学习感兴趣的研究者，相信这篇融合了理论推导与实战心得的文章，都能为你带来新的启发。

2. 核心原理：从度量学习到异常检测的桥梁

要理解角间隔损失为何有效，我们首先需要跳出“异常检测”的框架，从“表示学习”和“度量学习”的视角重新审视这个问题。

2.1 异常检测的本质与半监督学习的困境

在半监督异常声音检测设定下，我们只有正常样本用于训练。我们的目标是学习一个模型 ( f: X \rightarrow \mathbb{R}^D )，将输入音频（如梅尔频谱图）映射到一个D维的特征嵌入空间。理想情况下，所有正常样本的嵌入向量应该聚集在一个紧凑的区域，而任何异常样本的嵌入向量都应偏离这个区域。因此，异常分数通常定义为测试样本嵌入与正常样本嵌入集群中心的距离（如余弦距离或欧氏距离）。

传统方法，如紧凑性损失，直接优化这个目标： [ \mathcal{L}{comp} = \frac{1}{|Y|} \sum{x \in Y} | \phi(x, w) - c |_2^2 ] 其中 (Y) 是正常样本集，(\phi) 是特征提取网络，(c) 是预设或可学习的中心。这个目标非常直观：让所有正常样本的特征向一个中心点靠拢。

然而，这里存在一个致命的“平凡解”陷阱：网络可以通过学习一个常数函数 (\phi(x, w) \equiv c) 来轻松地将损失降为零。这意味着无论输入什么声音，输出都是同一个向量，异常检测完全失效。为了避免这种情况，我们需要对模型进行“正则化”，防止其塌缩。自编码器通过重构输入来提供这种约束，但它同时也会努力去重构背景噪声，导致学到的特征对机器本身的异常变化不敏感。

2.2 角间隔损失：一种优雅的正则化策略

角间隔损失的核心思想是引入一个辅助分类任务。假设我们的训练数据来自N台不同的机器（或同一台机器的N种不同状态），我们可以为每个类别（机器）定义一个固定的类别中心向量 (c_j \in \mathbb{R}^D)，并约束所有嵌入向量和中心向量都位于超球面上（即进行L2归一化，(| \phi(x) |_2 = | c_j |_2 = 1)）。

以AdaCos损失为例，其形式为： [ \mathcal{L}{ada} = -\frac{1}{|Y|} \sum{x \in Y} \sum_{j=1}^{N} l_j(x) \log \left( \frac{\exp(s \cdot \cos(\phi(x), c_j))}{\sum_{k=1}^{N} \exp(s \cdot \cos(\phi(x), c_k))} \right) ] 其中 (l_j(x)) 是样本x属于类别j的标签（可以是one-hot或mixup后的软标签），(s) 是自适应尺度参数，(\cos(\cdot,\cdot)) 表示余弦相似度。

这个设计的精妙之处在于：

1. 防止平凡解：网络必须学会区分N个不同的类别。学习一个将所有输入映射到同一常数的函数，无法完成分类任务，因此这个平凡解被自然排除。
2. 隐式的紧凑性优化：为了让样本被正确分类，其嵌入向量必须靠近对应类别的中心 (c_j)。这等价于在最小化该类样本到其中心的距离，即最小化类内紧凑性损失。
3. 显式的间隔最大化：角间隔损失（如ArcFace中的附加边际m）或AdaCos中自适应尺度s的效果，实质上是要求 (\cos(\phi(x), c_{y})) 不仅要大于其他 (\cos(\phi(x), c_k))，还要大出一个“安全边际”。这迫使不同类别的中心在超球面上彼此远离，等价于最大化类间距离。

论文中的定理6给出了严格的数学证明：最小化子簇AdaCos损失的梯度，等价于以某种加权方式同时最小化所有类内紧凑性损失和最大化所有类间紧凑性损失。这从理论上将角间隔损失与经典的“紧凑性损失+描述性损失”联合优化框架统一起来，但角间隔损失以一种更优雅、端到端的方式实现了这一目标，无需手动平衡两个损失项的权重。

2.3 为何对噪声更鲁棒？—— “注意力”机制的解释

这是角间隔损失在嘈杂音频环境中表现优异的关键。当辅助任务是区分“机器A”和“机器B”时，背景工厂噪声对于解决这个任务很可能是无关信息，因为同样的噪声可能同时出现在两类机器的录音中。神经网络为了高效地完成分类，会学会“忽略”这些对区分类别没有帮助的噪声成分，转而聚焦于那些能够区分不同机器声学特征的频段或时域模式。

这就好比：在一间嘈杂的咖啡馆里，你要训练一个系统区分两个人说话的声音。如果你只给系统听一个人的声音（单类学习），它很难将这个人的语音从背景音乐、杯碟碰撞声中分离出来。但如果你给系统听很多人的对话（多类分类），它为了区分谁在说话，就必须学会提取每个人独特的音色、语调特征，从而自然过滤掉共有的背景噪音。

因此，通过多类辅助任务训练出的特征提取器，其“注意力”更集中在目标机器本身的声音特性上。当机器声音发生细微的异常变化时，这种变化在特征空间中会被放大，从而更容易被检测到。而传统单类模型或自编码器，则会把机器声和背景噪声的混合体当作一个整体来建模，异常信号容易被强大的噪声成分所掩盖。

实操心得：辅助任务的设计是关键辅助任务不能是随意构造的。它必须与你的最终目标——检测特定目标的异常——强相关。在工业场景中，最自然的辅助任务就是按机器ID、工况（负载、转速）、甚至安装位置进行分类。任务越具判别性（即不同类别的声学特征差异越大），模型学到的特征对噪声的鲁棒性就越强，对目标机器本身的变化也越敏感。避免使用与目标无关的分类任务（例如，按录制时间分类），那只会让模型学到无关的伪特征。

3. 系统实现：从理论到代码的实战细节

理解了原理，我们来看如何构建一个基于角间隔损失的异常声音检测系统。这里我参考了DCASE挑战赛中state-of-the-art系统的设计思路，并融入一些工程上的优化点。

3.1 模型架构与输入特征

一个稳健的系统通常采用双分支结构，以捕捉声音信号中不同方面的信息：

1. 特征提取：

   • 分支A（时频分析）：输入为对数梅尔频谱图。它能提供声音在频域上的能量分布，对音色、谐波结构敏感。通常会对频谱图在时间轴上进行均值归一化，以减弱不同录音之间整体音量差异的影响，并突出相对谱结构。
   • 分支B（全频带信息）：输入为完整的幅度谱（或对数幅度谱）。它保留了更全面的频率信息，可能对某些宽频带异常更敏感。

2. 网络结构：

   • 每个分支使用一个轻量级的卷积神经网络（例如，4-5个卷积层，配合批归一化和ReLU激活）。
   • 关键技巧：去除偏置项。如论文所述，使用偏置项会增加模型学习到平凡解（常数映射）的风险。因此，在所有卷积层和全连接层中，我们都应禁用偏置（use_bias=False）。
   • 两个分支输出的特征向量会被拼接起来，形成一个综合的D维嵌入向量（例如D=256）。

3. 嵌入归一化：这是使用角间隔损失的前提。在送入损失函数计算之前，必须对拼接后的嵌入向量进行L2归一化：embedding = embedding / tf.norm(embedding, axis=-1, keepdims=True)。同样，所有类别中心向量在初始化时就被随机生成并投影到单位超球面上。

3.2 损失函数实现：以子簇AdaCos为例

子簇AdaCos是对标准AdaCos的改进，它为每个类别分配M个中心（子簇），允许模型学习每个类别内部更复杂的分布形态，这对于捕捉同一机器在不同状态下的声音变化很有帮助。

import tensorflow as tf class SubclusterAdaCosLoss(tf.keras.losses.Loss): def __init__(self, num_classes, num_subclusters, scale=30.0, **kwargs): super().__init__(**kwargs) self.num_classes = num_classes self.num_subclusters = num_subclusters # 初始化类别中心矩阵: [num_classes * num_subclusters, embedding_dim] # 使用随机初始化并L2归一化 initializer = tf.keras.initializers.RandomUniform(minval=-1, maxval=1) self.centers = self.add_weight( name='centers', shape=(num_classes * num_subclusters, embedding_dim), initializer=initializer, trainable=False # 关键！中心不可训练，防止平凡解 ) # 初始化后立即归一化 self.centers.assign(tf.math.l2_normalize(self.centers, axis=1)) self.scale = tf.Variable(scale, trainable=False) # 初始尺度 def call(self, y_true, embeddings): # embeddings 已经过L2归一化 # y_true: [batch_size, num_classes] (mixup后可能是软标签) # 计算所有嵌入与所有子簇中心的余弦相似度 # cosine_sim shape: [batch_size, num_classes * num_subclusters] cosine_sim = tf.matmul(embeddings, self.centers, transpose_b=True) # 重塑以便按类聚合子簇 cosine_sim_reshaped = tf.reshape(cosine_sim, [-1, self.num_classes, self.num_subclusters]) # 计算每个类别的“类logit”：对子簇的exp求和后再取log # 使用log-sum-exp技巧保证数值稳定 max_per_class = tf.reduce_max(cosine_sim_reshaped, axis=-1, keepdims=True) exp_sim = tf.exp(self.scale * (cosine_sim_reshaped - max_per_class)) sum_exp_per_class = tf.reduce_sum(exp_sim, axis=-1) # [batch_size, num_classes] class_logits = tf.math.log(sum_exp_per_class) + tf.squeeze(max_per_class, axis=-1) # 计算所有类别的归一化概率分布 # 再次使用log-sum-exp max_logits = tf.reduce_max(class_logits, axis=-1, keepdims=True) exp_logits = tf.exp(class_logits - max_logits) sum_exp_logits = tf.reduce_sum(exp_logits, axis=-1, keepdims=True) log_probs = class_logits - max_logits - tf.math.log(sum_exp_logits) # 计算交叉熵损失 loss = -tf.reduce_sum(y_true * log_probs, axis=-1) return tf.reduce_mean(loss) def update_scale(self, embeddings, y_true): """动态更新尺度参数s的简化版逻辑（应在每个训练步后调用）""" # 此处省略完整的AdaCos自适应尺度计算，实践中可参考原论文公式。 # 一个简单的策略是监控余弦相似度的分布，当分类过于容易（相似度接近1）时，适当增大s以增加梯度。 pass

注意事项：中心初始化与训练

• 中心不可训练：这是防止模型塌缩的关键策略之一。可训练的中心会与网络权重共同优化，可能导致所有中心收敛到同一个点，回到平凡解。
• 随机初始化已足够：在高维空间中（如256维），随机初始化的向量几乎两两正交。这为不同类别提供了一个良好的初始分离度。
• MixUp数据增强：在训练时使用MixUp至关重要，尤其是对于子簇AdaCos。它能平滑决策边界，防止模型对训练数据过拟合，并提升泛化能力。MixUp后的软标签需要相应地传入损失函数。

3.3 训练流程与异常分数计算

训练完成后，我们得到一个能产出判别性嵌入向量的模型。如何利用它进行异常检测呢？

1. 为每个“段”构建正常参考集：在实际应用中，同一台机器在不同“段”（section，代表不同的工况或环境）下的声音分布可能不同。因此，我们需要为每个目标段建立独立的正常样本参考。

   • 对于源域（训练数据多的域），使用该段下所有正常训练样本的嵌入向量，进行K-Means聚类（K=子簇数M）。聚类中心 ({\mu_s^k}_{k=1}^K) 代表了该段正常声音在特征空间中的多个“原型”。
   • 对于目标域（训练数据少的域，可能只有10个样本），由于数据太少无法聚类，直接使用这些样本的嵌入向量本身作为参考点 ({\mu_t^l}_{l=1}^L)。

2. 计算异常分数：对于一个测试样本的嵌入向量 (z)：

   • 计算其到源域参考集的最小余弦距离：(d_s = \min_k (1 - \cos(z, \mu_s^k)))
   • 计算其到目标域参考集的最小余弦距离：(d_t = \min_l (1 - \cos(z, \mu_t^l)))
   • 最终的异常分数为：(score = \min(d_s, d_t))
   • 分数越高，表示样本越异常。因为余弦距离越大，说明该样本的嵌入离所有正常原型越远。

3. 决策阈值：在一个完全无监督/半监督的设置下，我们无法根据验证集上的异常标签来设定阈值。一种实践方法是假设正常样本的分数服从某种分布（如高斯分布），将阈值设为该分布均值加上若干倍标准差。更稳健的做法是在部署后，根据初期运行积累的正常样本分数动态调整。

4. 实验分析与效果验证

理论很美好，但实际效果如何？我们基于DCASE2022 ASD数据集进行了一系列对比实验，这些结果能直观地展示角间隔损失的优势。

4.1 性能对比：角间隔损失 vs. 单类损失

我们在相同的模型架构和训练设置下，仅更换损失函数，比较了不同策略在AUC和pAUC（关注低误报率区域）指标上的表现。

结果解读与启示：

1. 单类模型的失败：无论是全局单类还是按机器类型分开的单类模型，其性能都接近随机猜测（50%）。这强烈印证了之前的分析：在复杂噪声环境下，单类模型无法区分目标机器声和背景噪声，学到的特征没有判别力。
2. 辅助任务的威力：引入多类分类任务（紧凑性损失+CCE）后，性能有了质的飞跃（AUC从~55%提升至~78%）。这说明迫使模型进行区分性学习，是提取鲁棒特征的关键。
3. 角间隔损失的微优势：AdaCos及其子簇变体进一步将性能推高1-2个百分点。这个提升虽然不大，但在工业场景中，1%的AUC提升可能意味着误报或漏报的大幅减少，价值显著。更重要的是，角间隔损失提供了一种更简洁、无需调参（平衡多个损失权重）的实现方式。

4.2 可视化洞察：模型到底“看”到了什么？

为了理解模型内部的工作机制，我们使用RISE方法生成了“重要性图谱”。它通过随机掩码输入频谱图的不同区域，观察异常分数的变化，从而反推出哪些时频区域对模型的决策贡献最大。

实验对比：

• 模型A：使用子簇AdaCos损失训练（多类辅助任务）。
• 模型B：使用单类紧凑性损失训练（无辅助任务）。

我们对一段异常齿轮箱声音和一段正常阀门声音进行分析。

结果分析：

• 对于异常齿轮箱声音：
  • 模型A的重要性图谱清晰显示，模型将能量较高的几个频带（蓝色）判定为“正常”，而将中间能量较低的频带（黄色）判定为“异常”。这与我们的直觉相符：一个正常的齿轮箱运转声应该在特定频段有稳定的高能量，而异常可能表现为某些频段能量的缺失或异常分布。
  • 模型B的重要性图谱则显得杂乱无章，仅在一些随机的、视觉上并无能量特征的垂直时间线上显示为异常。这很可能是模型在噪声中“胡乱猜测”的结果，没有学到有意义的模式。
• 对于正常阀门声音：
  • 阀门声音通常是由一系列短促的脉冲构成。模型A的重要性图谱成功地在时间轴上定位出了这几个脉冲位置，并将其标记为正常（蓝色），脉冲之间的静默期则被忽略或标记为轻微异常。
  • 模型B的图谱再次呈现近乎随机的模式，无法识别出任何与声学事件相关的结构。

结论：可视化证实了我们的核心论点。基于多类辅助任务训练的模型，学会了聚焦于与目标机器相关的、具有判别性的时频模式。它像一位经验丰富的老师傅，能“听出”机器声音的固有节奏和音调。而单类模型则像一个新手，被整体的噪音搞得晕头转向，无法做出可靠的判断。

4.3 嵌入空间可视化：t-SNE的直观证据

我们使用t-SNE将高维嵌入空间降维到2D进行可视化。

• 使用单类损失：正常样本（蓝色点）和异常样本（红色点）在二维平面上完全混杂在一起，无法区分。这说明特征空间没有形成有意义的聚类。
• 使用多类AdaCos损失：可以观察到，虽然不同类别的样本会形成各自的簇（这是分类任务驱动的），但更重要的是，在每个类别的簇内部，正常样本倾向于聚集在更核心的位置，而异常样本则散布在簇的边缘或远离簇。这种结构正是异常检测所需要的：我们不需要一个全局的“正常”大簇，而是需要每个“机器状态”都有一个紧凑的正常核心区域，异常则偏离这个区域。

5. 实战经验与避坑指南

结合多次实验和项目经验，我总结出以下几个关键点和常见陷阱：

1. 辅助任务的设计是灵魂：不要为了多类而多类。辅助类别必须与你的检测目标在声学特征上有可区分的差异。例如，区分不同转速下的同一台机器，比区分同一转速下不同日期录制的数据更有意义。如果所有类别的背景噪声都截然不同，模型可能会学会根据噪声分类，反而忽略机器本身的声音。

2. 嵌入维度与子簇数：嵌入维度D不宜过小（如<64），否则表征能力不足；也不宜过大（如>512），可能增加过拟合风险并降低计算效率。256是一个经验上不错的起点。子簇数M通常设置为8或16，它提供了对类内分布的更精细建模能力。可以将其视为让模型学习每个机器状态的多个“典型音调”。

3. 数据预处理与增强：

   • MixUp是标配：它能显著提升泛化能力，对于子簇AdaCos损失尤其重要，可以防止尺度参数爆炸。
   • 时域归一化：对频谱图进行时间轴上的均值归一化，能有效缓解不同录音之间增益差异带来的影响，让模型更关注相对谱形。
   • 考虑SpecAugment：在频谱图上进行时间掩码和频率掩码，可以进一步提升模型对局部变化的鲁棒性。

4. “平凡解”的防御：这是实现成功训练的重中之重。务必确保：

   • 网络层不使用偏置项（bias=False）。
   • 激活函数避免使用有固定零点且非线性的函数（如ReLU是合适的，Sigmoid/Tanh在有界性上可能增加塌缩风险，但并非绝对，需结合实验）。
   • 类别中心向量固定为随机初始化且不参与训练。这是最有效的一招。

5. 异常分数的后处理：直接使用最小余弦距离作为分数可能受极端值影响。可以考虑：

   • 使用到K个最近邻原型的平均距离。
   • 对分数进行滑动平均或中值滤波，以平滑瞬时的波动。
   • 在线上应用中，持续更新正常样本的参考集（如使用滑动窗口），以缓慢适应设备的自然老化。

6. 领域泛化的挑战：DCASE任务的核心挑战之一是领域偏移（如设备磨损、环境变化）。角间隔损失模型通过聚焦于机器本身的判别性特征，在一定程度上具备了领域泛化能力。但对于剧烈的领域变化，可能需要结合领域对抗训练或元学习等技术来进一步增强鲁棒性。

角间隔损失为半监督异常声音检测提供了一条清晰而有效的技术路径。它将一个无监督的异常检测问题，巧妙地转化为一个有监督的多类表示学习问题，利用判别性学习的强大力量来克服噪声干扰和模型塌缩。其核心价值在于，它不仅仅是一个损失函数，更是一种引导模型学习“该关注什么”的范式。在实际工业场景中部署此类系统时，除了模型本身，还需要紧密结合具体的业务逻辑、数据管道和报警策略，才能构建一个真正可靠、可用的智能监测系统。从我个人的经验来看，这套方法最大的优势在于其原理的简洁性和效果的稳定性，它让“从嘈杂中听出异常”这个难题，有了一个坚实可循的解决框架。