ViT 实战：Patch Embedding + Transformer + CIFAR-10 分类
文章目录
- ViT 实战：Patch Embedding + Transformer + CIFAR-10 分类
- 一、ViT 架构
- 二、环境
- 三、模型
- 3.1 PatchEmbedding
- 3.2 TransformerEncoder
- 3.3 ViT
- 四、数据 (CIFAR-10)
- 五、训练
- 六、结果
- 七、使用预训练权重
- 八、可视化
- 九、ViT vs CNN 对比
- 十、总结
- 代码链接与详细流程
购买即可解锁1000+YOLO优化文章，并且还有海量深度学习复现项目，价格仅需两杯奶茶的钱，每日更新
ViT 实战：Patch Embedding + Transformer + CIFAR-10 分类
一、ViT 架构
输入图像 (224×224×3) ↓ Patch Embedding (Conv2d, kernel=16, stride=16) → 196 patches × 768 dim ↓ 拼接 [CLS] Token → 197 × 768 ↓ + 位置编码 (可学习) ↓ Transformer Encoder × L 层 ┌───────────────────────────┐ │ Multihead Self-Attention │ │ + Residual │ │ + LayerNorm │ │───────────────────────────│ │ MLP (GELU + Dropout) │ │ + Residual │ │ + LayerNorm │ └───────────────────────────┘ ↓ 取 [CLS] Token 输出 ↓ Linear Head → 分类结果