深度学习正则化(五)—— 对抗训练 + 切面分类(三十二)
1. 定位导航
正则化系列收官篇。本篇内容来自两个出人意料的发现:
- 对抗样本(Adversarial Examples):2014 年 Szegedy 等人发现——给图像加入人眼几乎不可见的扰动,可以让神经网络完全分类错误
- 流形假设的精确利用:把"数据在流形上"这个假设直接编码到模型中
这两者结合,让深度学习既鲁棒又符合数据几何。
2. 对抗样本:深度学习的"魔术揭秘"
2.1 著名的"熊猫 → 长臂猿"案例
2014 论文经典图:
| 图像 | 模型预测 | 置信度 |
|---|---|---|
| 原图(熊猫) | “panda” | 57.7% |
| 原图 + ε·sign(∇J) 噪声 | “gibbon”(长臂猿) | 99.3% |
