常用机器学习损失函数（公式 + 用途 + 特点）
符号约定（二分类、像素级）
- \(p\)：模型预测为前景的概率
- \(y\in\{0,1\}\)：真实标签（1=前景，0=背景）
- \(p_t = \begin{cases}p, & y=1 \\ 1-p, & y=0\end{cases}\)
- \(TP,FP,FN\)：真阳性、假阳性、假阴性
- \(\alpha,\beta,\gamma\)：超参数
| 损失函数名称 | 数学公式（二分类） | 核心用途 | 关键特点 |
|---|---|---|---|
| 二元交叉熵 BCE | \(\mathcal{L}_{BCE} = -\big[y\log p + (1-y)\log(1-p)\big]\) | 基础二分类、像素分类 | 简单通用；极端不平衡时效果差 |
| 加权交叉熵 WBCE | \(\mathcal{L}_{WBCE} = -\big[\alpha y\log p + (1-\alpha)(1-y)\log(1-p)\big]\) | 缓解类别不平衡 | 手动给前景加权；对极度稀疏前景仍不够鲁棒 |
| Focal Loss | \(\mathcal{L}_{FL} = -(1-p_t)^\gamma \log(p_t)\) | 偏置分布、抑制简单样本、聚焦困难前景 | 自动降权简单背景；适合极端前景稀疏 |
| OHEM（在线难例挖掘） | 按样本损失排序，只保留高损失样本参与训练 | 困难样本挖掘、过滤冗余背景 | 非纯数学公式，是训练策略；增强难例梯度 |
| Dice Loss | \(\mathcal{L}_{Dice} = 1 - \dfrac{2TP}{2TP+FP+FN}\) | 医学/工业分割、轮廓检测、极度不平衡 | 几乎不受类别比例影响；直接优化区域重叠度 |
| Tversky Loss | \(\mathcal{L}_{Tversky} = 1 - \dfrac{TP}{TP+\alpha FP+\beta FN}\) | 需控制漏检/误检的稀疏前景任务 | 比Dice更灵活；可调α/β减少漏检 |
| IoU Loss | \(\mathcal{L}_{IoU} = 1 - \dfrac{TP}{TP+FP+FN}\) | 语义分割、轮廓检测，与评测指标对齐 | 直接优化IoU；训练与评价目标一致 |