模型不确定性下的公平性评估：自一致性指标与集成弃权策略

1. 项目概述：当公平性评估遭遇模型不确定性

在机器学习，尤其是公平性评估这个领域，我们常常会陷入一种“确定性幻觉”。我们训练一个模型，在某个测试集上计算其误判率、假阳性率、假阴性率，然后得出一个结论：这个模型对某个群体存在或不存在偏见。这个流程听起来严谨，但背后隐藏着一个巨大的、常被忽视的变量：模型不确定性。

想象一下，你是一位法官，需要根据一份证据来判决。如果这份证据本身会因为记录员的笔误、复印机的墨粉不均、甚至光线角度的不同，而呈现出截然不同的内容，你还能相信基于这份证据做出的判决是公正且可靠的吗？在机器学习公平性评估中，我们依赖的“证据”——即训练出的模型——恰恰就面临着这种“任意性”的困扰。同一套算法，在不同的随机种子、不同的数据子集上训练，可能会产生预测结果大相径庭的模型。如果我们仅凭其中一个模型的评估结果就断言整个系统的公平性，无异于管中窥豹，结论的可靠性堪忧。

这正是“自一致性”指标试图揭示和解决的问题。它不是一个全新的公平性度量标准，而是一个关于“评估过程本身可靠性”的元指标。其核心思想是：一个真正可靠的公平性结论，不应该依赖于我们恰好抽中了哪一份训练数据子集。如果同一个学习过程（相同的算法、超参数）在不同的合理数据样本上产生的模型，对同一个人的预测都摇摆不定（比如一会儿判为高风险，一会儿判为低风险），那么基于任何一个单一模型得出的公平性指标（如群体间的错误率差异）又有多少可信度呢？

本文将深入探讨如何量化这种模型决策的任意性，并介绍一套结合了集成学习与弃权策略的实用方法来应对它。我们会从公平二元分类的基本设定讲起，拆解方差与自一致性的统计原理，然后一步步展示如何通过自助法和特定的集成算法，在提升模型决策稳定性的同时，改善公平性与准确性。最后，我们会直面一个可能颠覆许多既有认知的发现：当充分考虑了模型不确定性后，许多经典公平性基准测试中宣称的“不公平”现象，其显著性可能会大大减弱甚至消失。

2. 核心概念与问题定义：从单一模型到可能模型的分布

要理解自一致性，我们必须首先跳出“单一最优模型”的思维定式，转而思考“所有可能模型的集合”。这不仅是方法论的转变，更是对机器学习本质更深刻的认识。

2.1 公平二元分类的形式化定义

我们考虑一个标准的公平二元分类场景。假设存在一个真实的数据分布 ( q(\cdot) )，我们可以从中采样得到样本 ( (x, g, o) )。其中：

• ( x \in \mathcal{X} \subseteq \mathbb{R}^m ) 是特征向量。
• ( g \in \mathcal{G} ) 是受保护的属性组（例如种族、性别）。在常见的二元划分场景下，我们通常设 ( \mathcal{G} = {0, 1} )。
• ( o \in \mathcal{O} ) 是观测到的标签，且 ( \mathcal{O} \subseteq \mathcal{Y} )，其中 ( \mathcal{Y} = {0, 1} ) 是标签空间。

从 ( q(\cdot) ) 中，我们可以独立同分布地采样出多个大小为 ( n ) 的训练数据集 ( D_k )。所有这样的数据集构成集合 ( \mathcal{D} )。

学习过程的定义：一个学习过程是一个随机化函数。它接受一个训练过程 ( \mathcal{A} ) 和一个模型假设空间 ( \mathcal{H} ) 作为规范。对于每一个训练数据集 ( D_k \in \mathcal{D} )，运行 ( \mathcal{A}(D_k) ) 会产生一个分类器 ( h_{D_k} \in \mathcal{H} )。所有在 ( \mathcal{D} ) 上运行得到的结果，共同定义了一个关于可能训练出的模型的分布 ( \mu )。

关键理解：这里定义的 ( \mu ) 是整个分析的核心。我们不再关心“那个”模型 ( h_{D_k} )，而是关心“所有可能被训练出来的模型”所构成的分布。这个分布 ( \mu ) 封装了由于训练数据随机采样所带来的全部不确定性。公平性评估如果只基于 ( \mu ) 中的一个样本（即一个具体的模型），其结论必然是脆弱和不完整的。

每个具体的模型 ( h_{D_k} \sim \mu ) 会对实例 ( x ) 产生一个确定的预测 ( \hat{y} = h_{D_k}(x) )。通常，这个预测由一个回归器 ( r_{D_k}: \mathcal{X} \to [0,1] ) （如逻辑回归的输出概率）经过阈值 ( \tau ) 决策得到：( h_{D_k}(x) = \mathbb{1}[r_{D_k}(x) \ge \tau] )。模型通过最小化损失函数 ( \ell: \mathcal{Y} \times \mathcal{Y} \mapsto \mathbb{R} ) 来训练，常见的包括0-1损失或代价敏感损失。

公平性指标，如机会均等，则进一步分析不同群体 ( g ) 下的错误率差异，例如假阳性率 ( FPR_g ) 和假阴性率 ( FNR_g )。这些指标通常是在一个固定的测试集上，针对一个具体的模型 ( h_{D_k} ) 计算的。

2.2 经验近似与评估的可靠性危机

在现实中，我们无法获知真实分布 ( q(\cdot) )，通常只有一个固定的数据集。标准的做法是通过交叉验证（CV）将数据划分为训练集和测试集，用训练集拟合少量模型（例如5折或10折），然后在测试集上评估性能。

这里存在一个根本性的可靠性问题：当模型方差（即对数据采样敏感度）很高时，交叉验证产生的少量模型（比如5个）远不足以代表分布 ( \mu )。由此计算出的错误率或公平性差异估计值，本身就可能具有很高的方差。换句话说，你这次随机划分数据得到的“不公平程度”是3%，下次再随机划分一次，可能就变成了8%。那么，这个“3%”的结论有多大意义？

为了更可靠地估计 ( \mu ) 的行为，统计学提供了自助法（Bootstrap）这一工具。其操作如下：

1. 从原始数据集中有放回地重复采样，生成 ( B ) 个自助重采样数据集 ( \hat{D}_1, \hat{D}_2, ..., \hat{D}_B )。
2. 在每个 ( \hat{D}b ) 上训练一个模型 ( \hat{h}{\hat{D}_b} )。
3. 将这 ( B ) 个模型 ( { \hat{h}_{\hat{D}b} }{b=1}^B ) 视为对真实模型分布 ( \mu ) 的一个经验近似 ( \hat{\mu} )。
4. 使用一个固定的、预留的测试集来评估所有这些模型。

通过自助法，我们获得了来自 ( \hat{\mu} ) 的 ( B ) 个具体模型样本，从而能够分析模型预测的分布特性，而不仅仅是单个点的估计。这是自一致性指标得以计算的基础。

3. 自一致性：量化模型决策的任意性

方差是统计学中衡量波动性的经典概念，但在公平性语境下，我们需要一个更直接反映“决策摇摆”的指标。

3.1 从统计方差到自一致性

对于一个测试实例 ( (x, g) )，模型预测的方差传统上定义为不同模型对其预测结果差异的期望： [ \text{var}(\mathcal{A}, \mathcal{D}, (x, g)) \triangleq \mathbb{E}{h{D_i}, h_{D_j} \sim \mu} [\ell(h_{D_i}(x), h_{D_j}(x))] ] 对于0-1损失，这衡量的是两个随机模型对 ( x ) 的预测不一致的概率（乘以一个常数代价）。通过自助法，我们可以用 ( B ) 个模型来近似计算经验方差 ( \widehat{\text{var}} )。

然而，方差的值依赖于我们选择的误分类代价 ( C_{01} ) 和 ( C_{10} )。增大代价，方差的上限也会增大，这使得不同设置下的方差难以直接比较。更重要的是，在图3.1（原论文）所展示的直觉中，我们真正关心的不是代价加权后的差异，而是模型之间纯粹的“同意”或“不同意”。

因此，我们剥离掉代价因素，定义自一致性： [ SC(\mathcal{A}, \mathcal{D}, (x, g)) \triangleq \mathbb{P}{h{D_i}, h_{D_j} \sim \mu} (h_{D_i}(x) = h_{D_j}(x)) ] 用通俗的话说：自一致性衡量的是，同一个学习过程在不同训练集上产生的两个随机模型，对同一个测试实例给出相同预测的概率。

其经验近似公式简洁而有力： [ \widehat{SC}(\mathcal{A}, \hat{D}, (x, g)) = 1 - \frac{2B_0 B_1}{B(B-1)} ] 其中，( B ) 是总模型数，( B_0 ) 和 ( B_1 ) 分别是预测为0类和1类的模型数量。这个指标的值域在 ( [0.5, 1] ) 之间（当 ( B \to \infty ) 时）。

3.2 自一致性的解读与价值

核心特性：

1. 与标签无关：自一致性计算不依赖于真实标签 ( o )。这是它与FPR、FNR等公平性指标的本质区别。它度量的是学习过程本身的稳定性，而非准确性。
2. 置信度而非准确度：高自一致性意味着学习过程对该实例的预测很有“信心”（无论对错）；低自一致性则意味着预测是“任意”的，严重依赖于训练数据的偶然性。
3. 与方差的关系：自一致性与方差此消彼长。低自一致性直接对应高方差。

为什么它重要？假设我们对一个群体计算得到 (\Delta FPR = 2%)，表面上看起来存在轻微的不公平。但如果进一步分析发现，对于构成这个FPR的许多个体实例，其自一致性都很低（接近0.5），那么这2%的差异很可能只是统计噪声，而非系统性的偏见。自一致性指标帮助我们将系统性偏差与随机波动区分开来。

3.3 实践中的自一致性：个体与系统任意性

通过计算测试集中每个实例的自一致性，我们可以绘制其累积分布函数图。原论文中的图3.2展示了COMPAS和Adult数据集上随机森林模型的自一致性CDF。

• 个体任意性：在COMPAS数据集中，近一半实例的自一致性低于0.7，约四分之一的实例自一致性接近0.5（完全随机）。这意味着对于大量个体，模型的预测几乎是掷硬币决定的，尽管模型整体的平均公平性差异（(\Delta \widehat{Err})）看起来很小。
• 系统任意性：在Adult数据集中，男性和女性群体的自一致性分布存在明显差异（通过Wasserstein-1距离量化）。这表明学习过程对男性群体的预测整体上更不稳定、更任意。这种不同群体间决策稳定性的差异本身，就是一种新的、值得关注的公平性问题。

实操心得：在评估模型公平时，不要只看群体错误率的均值差异。一定要绘制并检查自一致性（或类似稳定性指标）在不同群体上的分布。如果某个群体的预测一致性显著更低，那么即使群体间错误率相等，该群体的成员实际上也面临着更不可预测、更“看运气”的决策过程，这本身就是一种不公。

4. 应对策略：基于自一致性的集成与弃权算法

既然低自一致性（高方差）是问题根源，那么自然的解决思路就是降低方差。集成学习，特别是装袋法，是降低模型方差的标准技术。然而，标准的多数投票集成对于自一致性接近0.5的实例无能为力（因为正反票数接近）。

因此，我们引入一个关键改进：弃权。算法2（原论文）的核心逻辑如下：

1. 自助集成：通过自助法训练 ( B ) 个基学习器。
2. 计算自一致性：对于待预测实例 ( x_{\text{test}} )，收集所有 ( B ) 个模型的预测，计算其经验自一致性 ( \widehat{SC} )。
3. 阈值决策：设定一个最低自一致性阈值 ( \kappa )（例如0.75）。如果 ( \widehat{SC} \geq \kappa )，则进行多数投票并输出最终预测；如果 ( \widehat{SC} < \kappa )，则算法选择“弃权”，不做出预测。

这个简单的策略通过两种机制提升系统的可靠性：

1. 方差缩减：对于 ( \widehat{SC} ) 高于阈值的实例，集成投票本身通过平均效应降低了预测方差。
2. 风险规避：对于 ( \widehat{SC} ) 过低的实例，承认模型在此处“不知道”，并将其交由其他决策流程（如人工审核）处理，避免了在极不确定的情况下做出可能错误的自动化决策。

4.1 简单集成与超级集成

在实践中，我们测试了两种集成策略：

• 简单集成：直接对基学习器（如决策树、逻辑回归）应用算法2。如果基学习器本身方差很大（如单棵决策树），那么许多实例的自一致性会很低，导致弃权率很高。
• 超级集成：进行两阶段集成。第一阶段：先用标准装袋法（无弃权）训练一个“初级集成模型”（本身已降低了方差）。第二阶段：将多个这样的初级集成模型作为算法2的基学习器，再进行带弃权的集成。超级集成相当于在计算自一致性之前，先做了一轮方差平滑，因此通常能获得更高的整体自一致性，从而降低弃权率。

参数选择与权衡：

• B（模型数量）：通常建议在50到200之间。B越大，对分布 ( \mu ) 的近似越好，自一致性估计越稳定，但计算成本也越高。原论文中多采用 ( B=101 )。
• (\kappa)（自一致性阈值）：这是一个需要根据应用场景调整的关键超参数。(\kappa) 越高，系统越保守，弃权率越高，但剩余预测集的自一致性和准确率也越高。(\kappa) 的设置需要在可靠性、覆盖率和运营成本之间取得平衡。

4.2 效果验证与惊人发现

在原论文的实验中，该方法在多个经典公平性数据集（COMPAS, Adult, German Credit等）上进行了验证。以Old Adult数据集（按性别划分）和随机森林为例：

结果解读：

1. 公平性提升：简单集成将性别间的FNR差异从6.3%降低到了4.1%，同时两个群体的绝对错误率也大幅下降。
2. 弃权集的错误率：被弃权的实例，其平均错误率远高于预测集。这意味着算法主动避开了那些它“不擅长”判断的、高不确定性的案例，而这些案例原本很可能被误判。
3. 系统任意性减少：超级集成显著缩小了男性和女性群体自一致性分布之间的差距（W1距离从0.063降至0.014），说明它缓解了不同群体间决策稳定性的不均衡。
4. 权衡：简单集成以高弃权率为代价换取了更好的公平性和准确性；超级集成则通过两阶段集成降低了弃权率，但性能提升幅度有所回落。这体现了可靠性、覆盖率和性能之间的经典权衡。

最引人深思的发现：当使用这种集成方法充分考量模型不确定性后，在许多被广泛研究的公平性基准测试中，原先报告中显著的群体间不公平差异（如COMPAS中种族间的FPR差异）大幅缩小，甚至达到了统计上不显著的水平。例如，在COMPAS数据集上使用逻辑回归，通过集成方法获得的 (\Delta \widehat{FPR}) 仅在1.8%到3.0%之间，远低于许多仅基于单个模型或少量交叉验证结果的研究所报告的数字。

核心洞见：这一发现并非说明公平性问题不存在，而是揭示了传统评估方法的脆弱性。由于模型方差的存在，基于少数几个模型得出的“不公平”结论，可能只是抽样波动的结果，而非学习过程或数据中真实存在的系统性偏见。当我们将视角从“一个模型”切换到“所有可能模型的分布”时，许多表面的“不公平”被平均掉了。这迫使我们必须重新审视大量现有研究的结论，它们可能高估了不公平性的严重程度和普遍性。

5. 实施指南、常见问题与避坑技巧

将自一致性评估与集成弃权策略应用到实际项目中，需要细致的工程实现和对细节的把握。

5.1 实施步骤详解

1. 数据准备与划分：

   • 将数据集划分为训练集和固定的测试集。测试集必须严格保留，不参与任何自助重采样，仅用于最终评估。
   • 对于敏感属性 ( g )，确保在训练集和测试集中都有足够的样本量，以便进行可靠的群体间比较。

2. 自助法生成模型池：

   • 从训练集中进行 ( B ) 次有放回抽样，生成 ( B ) 个自助训练集 ( \hat{D}_b )。
   • 使用完全相同的算法配置 ( \mathcal{A} )（包括网络结构、超参数、随机种子控制）在每个 ( \hat{D}_b ) 上训练模型 ( \hat{h}_b )。
   • 关键：确保训练过程的随机性仅来自于数据采样。如果算法本身有随机性（如神经网络权重初始化），需要固定随机种子，或将这种随机性也视为学习过程 ( \mathcal{A} ) 的一部分纳入分析。

3. 计算实例级自一致性：

   • 对于测试集中的每个实例 ( x_i )，收集所有 ( B ) 个模型的预测 ( {\hat{y}_i^{(1)}, ..., \hat{y}_i^{(B)}} )。
   • 统计预测为0和1的模型数 ( B_0 ) 和 ( B_1 )。
   • 代入公式 ( \widehat{SC}_i = 1 - \frac{2B_0 B_1}{B(B-1)} ) 进行计算。

4. 设定阈值与执行弃权策略：

   • 根据业务风险容忍度确定阈值 ( \kappa )。可以从0.6开始尝试，逐步提高以观察弃权率和性能变化。
   • 对测试集进行划分：预测集 ( S_{\text{predict}} = { x_i | \widehat{SC}i \geq \kappa } )，弃权集 ( S{\text{abstain}} = { x_i | \widehat{SC}_i < \kappa } )。
   • 对于预测集中的实例，采用多数投票决定最终预测。

5. 评估与报告：

   • 在预测集( S_{\text{predict}} ) 上计算所有传统的性能指标（准确率、F1分数等）和公平性指标（FPR、FNR、机会均等差异等）。
   • 必须同时报告弃权率，以及弃权率在不同群体 ( g ) 上的分布。不均衡的弃权率本身可能反映新的公平性问题。
   • 分析弃权集的特征，理解模型在哪些情况下不确定性高。

5.2 常见问题与排查技巧

Q1：计算成本太高，训练B个模型不现实。

• 技巧1：使用暖启动。对于像逻辑回归、神经网络等迭代优化算法，可以将在完整训练集上训练好的模型作为初始点，然后在每个自助集上进行少量迭代微调，大幅减少训练时间。
• 技巧2：并行化。B个模型的训练是完美的易并行任务，可以充分利用分布式计算资源。
• 技巧3：降低B。虽然B越大估计越准，但实践中B=50往往就能得到有意义的自一致性分布形态。可以进行敏感性分析，观察B从20增加到100时，自一致性指标是否趋于稳定。

Q2：阈值 ( \kappa ) 不知道如何设置。

• 技巧：绘制决策曲线。以 ( \kappa ) 为横轴，纵轴分别绘制预测集大小（覆盖率）、预测集准确率/公平性、弃权率等曲线。与业务方共同审视这些曲线，找到在可接受的弃权率下，性能提升明显的“拐点”作为 ( \kappa ) 的参考值。

Q3：弃权后的实例如何处理？

• 这是业务集成问题。方案包括：
  • 人工审核：将高不确定性案例交由领域专家处理。
  • 默认策略：采用保守的默认决策（例如，在贷款审批中默认拒绝，在医疗诊断中建议进一步检查）。
  • 次级模型：训练一个专门处理低自一致性实例的模型（可能使用不同的特征或算法）。
  • 成本考量：必须将人工审核或默认决策的成本，与自动化错误决策可能带来的风险和法律成本进行权衡。

Q4：自一致性指标在高度不平衡的数据集上是否有偏？

• 自一致性计算本身与类别比例无关。但是，多数投票集成在极端不平衡时可能有问题。如果负样本占99%，那么即使所有模型都一致预测为负（自一致性=1），这个高一致性也可能没有信息量。此时，应结合预测的概率值或置信度来综合判断。可以考虑使用概率平均而非硬投票的集成方式，并检查预测概率的分布。

Q5：如何将自一致性整合到现有的MLOps管道中？

• 在模型验证阶段，增加自一致性评估作为必选检查项。可以设定一个全测试集自一致性的最低允许均值，或要求任何群体的自一致性中位数不低于某个阈值。
• 在模型监控阶段，除了监控预测分布的偏移，也监控自一致性分布的偏移。如果上线后模型对新数据的自一致性持续下降，是模型失效的重要预警信号。

6. 对公平性研究与实践的深远启示

本文介绍的自一致性视角和集成方法，其意义远不止于提供了一个新的技术工具。它促使我们对机器学习公平性的研究范式进行根本性的反思。

1. 从“模型公平”到“过程公平”的转变传统公平性研究聚焦于评估和修正单个模型的输出。自一致性指标将我们的注意力引向了产生模型的学习过程的可靠性。一个即使能够输出“公平”结果，但过程极不稳定、高度依赖随机性的系统，其公平性承诺是不可信的。未来的评估标准应同时包含“结果公平性”和“过程稳定性”。

2. 对“公平性与准确性权衡”的再审视著名的“公平性-准确性权衡”理论指出，在某些定义下，追求公平可能会损害整体准确性。然而，本文的实验表明，通过减少方差（提升自一致性），我们常常能同时提升公平性和准确性。这说明，许多实践中观察到的权衡，可能部分源于模型方差带来的噪声，而非不可调和的内在冲突。在尝试复杂的公平性约束算法之前，也许首先应该用集成方法把模型的方差降下来。

3. 对基准测试与学术研究的警示研究社区需要高度重视模型评估的可靠性。仅基于单次运行或少量交叉验证结果就宣称发现了一种新的不公平模式或提出了一种有效的去偏方法，其结论可能是脆弱甚至误导性的。未来的公平性论文应鼓励或要求作者报告模型的自一致性或类似的稳定性指标，并提供基于自助法或多次重复实验的置信区间。

4. 工程实践中的责任对于部署机器学习系统进行自动化决策的工程师和产品经理，自一致性提供了一个可操作的“不确定性仪表盘”。在系统上线前，不仅要测试其准确性和公平性，还必须评估其决策的稳定性。主动识别并弃权处理高不确定性案例，不仅是提升系统性能的手段，更是一种负责任的风险缓释策略，能够减少因模型“任意”决策而可能引发的争议与损害。

机器学习公平性之路，道阻且长。自一致性指标及其相关方法，就像为这条道路增设了“稳定性检测”和“不确定性警示”系统。它不能消除所有的不公平，但它能帮助我们更清晰地区分哪些是真正需要解决的系统性偏见，哪些只是统计旅程中不可避免的噪声，从而让我们将有限的资源投入到最值得关注的问题上。在追求公平的旅程中，认识到我们认知的局限性和工具的不确定性，或许是迈向更可靠、更负责任的人工智能系统的第一步。