自监督与半监督：AI学习的两种智慧
总结区分
自监督（Self-Supervised Learning）
没有人工标注，标签是从数据自己构造出来的半监督（Semi-Supervised Learning）
一小部分有人工标注 + 大量无标注数据
一、自监督是什么？
核心思想
用数据本身来“出题考自己”
不找人打标签，而是：
从原始数据里人为制造一个任务
这个任务的“正确答案”可以自动得到
模型通过做这些“自问自答”的任务学到有用表示。
典型例子
1.NLP（文本）
任务：预测被遮住的词
我今天去___吃饭→ 正确答案：食堂
BERT、GPT 的预训练都是自监督
2.图像
遮住一块图像，让模型补全
把图像打乱顺序，让模型还原
3.对比学习（现在很火）
同一张图片的不同增强 → 应该“相似”
不同图片 → 应该“不同”
SimCLR、MoCo 都是自监督
二、半监督是什么？
核心思想
用少量标注数据带着大量无标注数据一起学
现实中：
标注很贵
无标注数据很多
那就：
先用少量标注数据“指路”
再把无标注数据也利用起来
典型例子
图像分类
100 张图片有标签（猫 / 狗）
10 万张图片没标签
方法：
先用有标签数据训练模型
给无标签数据“猜标签”
把猜得很准的也当作训练数据（伪标签）
常见方法
Pseudo Label（伪标签）
Consistency Regularization（一致性约束）
FixMatch / Mean Teacher
特点总结
用到了人工标注
提升标注效率
依赖初始标签质量
任务通常是明确的下游任务
三、自监督 vs 半监督（对照表）
| 维度 | 自监督 | 半监督 |
|---|---|---|
| 是否需要人工标签 | 不 | 需要（少量） |
| 标签来源 | 数据自己构造 | 人工 + 模型预测 |
| 主要用途 | 预训练 / 表征学习 | 具体任务训练 |
| 常见位置 | 训练前 | 训练中 |
| 代表模型 | BERT、SimCLR | FixMatch |