当前位置：首页 > news >正文

AB实验高级必修课（四）：逻辑回归的“马甲”、AUC的概率本质与阈值博弈

news 2026/5/13 0:52:26

—关注作者，送数据科学实战工具包

很多初级分析师在跑模型时，往往止步于model.fit()和model.predict()。代码跑通了，准确率（Accuracy）看着也不错，任务似乎就完成了。

但在真实的业务场景，尤其是涉及 AB 实验（A/B Testing）和策略归因时，这种“黑盒式”的调用是极其危险的。为什么准确率很高但业务方说模型没用？为什么模型在离线测试表现完美，上线后却惨遭滑铁卢？

今天我们不谈枯燥的代码 API，而是站在白板前，把从逻辑回归到业务决策的核心逻辑拆解开来。我们将深入探讨 Sigmoid 函数是如何给线性回归“穿马甲”的，AUC 到底代表了什么样的排序能力，以及在面对不同业务痛点时，如何精准地“切那一刀”（选择阈值）。

一、穿马甲的线性回归：Sigmoid 与对数几率

很多人认为逻辑回归（Logistic Regression）是一种全新的分类算法，但从数学本质上看，它其实是线性回归 (Linear Regression)穿了一件“马甲”。

1. 为什么要穿马甲？

线性回归的输出公式是z = w T x + b z = w^Tx + bz=wTx+b。
这个z zz的范围是( − ∞ , + ∞ ) (-\infty, +\infty)(−∞,+∞)。它可以是 10000，也可以是 -500。

但在二分类问题（比如预测用户是否点击、是否转化）中，我们需要的是一个概率，其范围必须严格限制在[ 0 , 1 ] [0, 1][0,1]之间。

为了把狂野的z zz压缩到[ 0 , 1 ] [0, 1][0,1]这个笼子里，我们需要引入Sigmoid 函数（S型函数）。

2. Sigmoid 函数：压缩器

公式：
$ \sigma(z) = \frac{1}{1 + e^{-z}} $

变量含义：

z zz：线性回归的输出结果。
e ee：自然常数。

交互逻辑：

当z zz趋向于+ ∞ +\infty+∞时，e − z e^{-z}e−z趋向于 0，分母趋向于 1，结果趋向于1。
当z zz趋向于− ∞ -\infty−∞时，e − z e^{-z}e−z趋向于+ ∞ +\infty+∞，分母无穷大，结果趋向于0。
当z = 0 z = 0z=0时，结果正好是0.5。

这就完美地把线性输出映射成了概率。

3. 扒开马甲看本质：对数几率 (Log-Odds)

如果我们对 Sigmoid 公式做一个逆变换，就会发现逻辑回归的真面目：

$ \ln\left(\frac{P}{1-P}\right) = w^Tx + b $

这里有两个关键概念：

几率 (Odds)：P 1 − P \frac{P}{1-P}1−PP。即“发生的概率”除以“不发生的概率”。比如赌球，赢面是 3 比 1，Odds 就是 3。
对数几率 (Log-Odds / Logit)：对几率取自然对数。

核心结论：
逻辑回归在概率空间是非线性的（S形曲线），但在对数几率空间它是线性的。
这意味着，当我们说“某个特征系数β = 0.5 \beta = 0.5β=0.5”时，不能直接说“概率增加了 0.5”，而应该说“该特征每增加一个单位，样本为正类的对数几率增加 0.5”。

二、消失的阈值与“切一刀”的艺术

当你调用sklearn的model.predict()时，你得到的是 0 或 1。但逻辑回归输出的明明是概率，是谁帮你做了决定？

1. 隐式阈值 (Implicit Threshold)

库函数默认帮你设定了阈值 (Threshold) = 0.5。

概率 > 0.5→ \rightarrow→判为 1 (正例)
概率≤ \le≤0.5→ \rightarrow→判为 0 (负例)

但在实战中，0.5 往往是最平庸的选择。

2. 寻找最佳阈值：如何“切这一刀”？

阈值的选择本质上是精确率 (Precision)和召回率 (Recall)的博弈。

场景 A：宁可错杀一千，不可放过一个 (高召回需求)
- 例子：癌症筛查、地震预警、金融风控（抓欺诈）。
- 策略：降低阈值（比如切在 0.1）。
- 后果：只要有一点点嫌疑就报警。Recall 升高，但误报（False Positive）也会增加。
场景 B：宁缺毋滥 (高精确需求)
- 例子：垃圾邮件拦截、精准广告投放（预算有限）。
- 策略：提高阈值（比如切在 0.9）。
- 后果：只有确信度极高才出手。Precision 升高，但会漏掉很多潜在目标（False Negative）。

3. 科学确定阈值的方法

不要拍脑袋，可以用以下几种方法确定最佳切点：

ROC 曲线的最左上角：在 ROC 图上，离 (0,1) 点最近的那个阈值，通常是 TPR 和 FPR 的最佳平衡点。
Youden’s J 统计量：计算J = TPR − FPR J = \text{TPR} - \text{FPR}J=TPR−FPR，取J JJ最大值对应的阈值。
业务成本矩阵 (Cost Matrix)：这是最高阶的玩法。计算“漏报一个用户的损失” vs “误报一个用户的骚扰成本”，通过最小化总成本来反推阈值。

三、调和平均数：F1 Score 治愈“偏科”

在样本不平衡（比如 99 个好人，1 个坏人）的场景下，准确率 (Accuracy) 会失效。我们需要 F1 Score。
F1 是 Precision 和 Recall 的调和平均数 (Harmonic Mean)。

公式：
$ F1 = \frac{2 \times P \times R}{P + R} $

为什么是调和平均？
类比物理中的“往返平均速度”：去程 60km/h，回程 40km/h，平均速度是 48km/h（调和平均），而不是 50km/h（算术平均）。
调和平均数的特性是：它会被最小值（短板）狠狠拖后腿。
只要 Precision 或 Recall 其中一个很低，F1 就会很低。这迫使模型必须“德智体美全面发展”。

四、 AUC 的物理意义：正样本排在负样本前面的概率

我们常说 AUC (Area Under Curve) 是 ROC 曲线下的面积，但这只是几何定义。在 AB 实验和推荐系统中，AUC 有更直观的概率解释。

1. 概率定义

假设我们有一个正样本P PP和一个负样本N NN。我们将它们丢进模型，模型会吐出两个预测分数：S c o r e P Score_PScoreP和S c o r e N Score_NScoreN。

AUC 就是：模型预测的正样本分数S c o r e P Score_PScoreP大于负样本分数S c o r e N Score_NScoreN的概率。

$ \text{AUC} = P(Score_{Positive} > Score_{Negative}) $

2. 为什么这对业务很重要？

想象你在做一个推荐系统或搜索引擎。
用户并不关心你预测的绝对概率是 0.6 还是 0.9，用户关心的是：你想推荐给我的那个真正的好东西，是不是排在了我不喜欢的坏东西前面？

AUC = 0.5：模型在瞎猜，好东西和坏东西混在一起随机排序。
AUC = 0.8：如果你随机抽一个喜欢的商品和一个不喜欢的商品，模型有 80% 的把握把喜欢的那个排在前面。

这就是为什么在点击率预估（CTR）和排序业务中，AUC 是核心指标，因为它直接衡量了模型的排序能力 (Ranking Quality)。

五、决策框架：PACE 模型实战

最后，作为数据专家，你的核心价值在于根据业务问题选择工具。

业务问题类型	核心关注点	推荐工具	关键产出
量化影响 (How much?)	想要具体的系数。例：广告费每加 1 万，销量加多少？	线性回归 (Linear Regression)	回归系数β \betaβ R 2 R^2R2
比较差异 (Is there a difference?)	想要确信度。例：A/B 实验中，新策略是否显著优于旧策略？	假设检验 (Hypothesis Testing)	P值 (P-value) 置信区间
预测概率/排序 (Will it happen?)	想要预测 0/1 或排序。例：用户会不会点击？谁更可能违约？	逻辑回归 (Logistic Regression)	AUC F1 Score 混淆矩阵