李沐论文精读合集：67 篇深度学习经典论文逐段精读，从 AlexNet 到 Sora，B 站播放百万级的 AI 自学圣经

李沐论文精读合集：67 篇深度学习经典论文逐段精读，从 AlexNet 到 Sora，B 站播放百万级的 AI 自学圣经

💡 学深度学习读不懂论文？跟着李沐逐段精读！从 AlexNet 到 Sora，从 Transformer 到 GPT-4，67 篇经典论文逐段拆解，每篇 40-90 分钟深度讲解，B 站百万播放量的论文精读项目。涵盖 CNN 架构演进、Transformer 全家桶、生成模型、分布式训练、大语言模型、多模态等 8 大方向，配套《研究的艺术》4 讲教你做科研。全网最系统的 AI 论文学习路线，没有之一。

📌 目录

• 1. 项目是什么？
• 2. 为什么你需要它？
• 3. 8 大方向论文路线图
• 4. 精读论文完整清单
• 5. 特色：不只读论文，还教做科研
• 6. 如何使用这个项目？
• 7. 优缺点与学习建议
• 8. 总结

1. 项目是什么？

paper-reading是亚马逊资深首席科学家李沐（Mu Li）发起的深度学习论文逐段精读项目。

核心理念：不是给你讲个大概，而是带着你逐段读完，让你真正读懂每一行论文。

• 🔗 项目地址：https://github.com/mli/paper-reading
• 📺 B 站频道：跟李沐学AI
• 🌐 YouTube：Mu Li
• 📖 配套教材：《动手学深度学习》d2l.ai
• ⭐ GitHub Star：26K+
• 📊 总论文数：67 篇
• 🎬 已录制：32+ 期

李沐是谁？

一个既做过系统、又做过算法、还写得了教材、讲得了课的 AI 全栈大佬。

2. 为什么你需要它？

读论文的三个层次

李沐的精读带你从 ❶ 直达 ❸。

传统读论文的痛点

3. 8 大方向论文路线图

路线一：CNN 架构演进 🏗️

从 AlexNet 到 EfficientNet，看 CNN 架构十年进化史：

AlexNet (2012) 深度学习奠基作 ↓ VGG (2014) 用 3×3 卷积堆叠更深网络 GoogleNet (2014) 并行架构 Inception ↓ ResNet (2015) 残差连接，撑起 CV 半边天 ⭐ ↓ MobileNet (2017) 终端设备轻量 CNN EfficientNet (2019) 架构搜索 SOTA Non-deep Networks (2021) 不深的网络也能刷 SOTA

必读：AlexNet → ResNet，这两篇理解了，CNN 架构演进的主线就通了。

路线二：Vision Transformer 🎯

Transformer 从 NLP 杀入 CV 的完整路径：

Transformer (2017) Attention Is All You Need ⭐ ↓ ViT (2020) 图像当 16×16 words ⭐ ↓ Swin Transformer (2021) 层次化 ViT ⭐ MLP-Mixer (2021) 用 MLP 替代 Attention ↓ MAE (2021) BERT 的 CV 版 ⭐

必读：Transformer → ViT → MAE，理解 ViT 的来龙去脉。

路线三：生成模型 🎨

从 GAN 到 Diffusion 到 DALL·E 2，生成模型十年演进：

GAN (2014) 生成模型开创工作 ⭐ ↓ DCGAN → WGAN → CycleGAN → StyleGAN → StyleGAN2 → StyleGAN3 ↓ DDPM (2020) Diffusion Models ⭐ Improved DDPM → Guided Diffusion ↓ DALL·E 2 (2022) CLIP + Diffusion ⭐ ↓ Sora (2024) 视频生成 ⭐ Movie Gen (2024) 精确视频编辑 HunyuanVideo (2025) 开源视频生成

必读：GAN → DDPM → DALL·E 2 → Sora，这条线串起来就是生成模型的全部精华。

路线四：目标检测 🔍

从 R-CNN 到 DETR，检测范式演进：

R-CNN (2014) Two-stage 开山 Fast R-CNN (2015) Faster R-CNN (2015) RPN + ROI Pooling ⭐ ↓ SSD (2016) Single stage YOLO (2016) You Only Look Once ↓ DETR (2020) Transformer 检测 ⭐

路线五：大语言模型 💬

从 GPT-1 到 Llama 3.1，大模型演进完整路线：

GPT → GPT-2 → GPT-3 (2020) 自回归语言模型 ⭐ ↓ InstructGPT (2022) RLHF 对齐 ⭐ ↓ GPT-4 (2023) 多模态大模型 ⭐ ↓ Llama 3.1 (2024) 开源大模型 ⭐ · 1. 导言 · 2. 预训练数据 · 3. 模型架构 · 4. 训练 Infra · 5. 训练过程 ↓ Anthropic LLM 安全对齐 HELM 全面评测 Chain of Thought 思维链 ⭐

必读：GPT-3 → InstructGPT → GPT-4 → Llama 3.1，这是理解大模型的核心路线。

路线六：多模态 🌈

CLIP → ViLT → CLIP 改进串讲 → 多模态论文串讲：

CLIP (2021) 对比学习图文对齐 ⭐ ↓ ViLT (2021) 极简多模态 Transformer ↓ CLIP 改进串讲（上/下） CLIP 生态全景 ↓ 多模态串讲（上/下） 多模态论文全景

路线七：分布式训练 ⚡

大规模训练的核心系统工作：

Parameter Server (2014) 分布式训练奠基 ⭐ ↓ GPipe (2019) 流水线并行 ↓ Megatron LM (2019) 张量并行 ⭐ ↓ ZeRO (2020) 零冗余优化 ⭐ ↓ Pathways (2022) 谷歌分布式架构

路线八：视频理解 🎬

Two-Stream (2014) 双流网络 ↓ I3D (2017) 3D 卷积 ↓ 视频理解串讲（上/下） 视频理解综述 ↓ Whisper (2022) 语音识别 ⭐

4. 精读论文完整清单

已录制视频（32+ 期）

💡 标注 ⭐ 的是强烈推荐的必读视频，每期都是百万级播放量。

5. 特色：不只读论文，还教做科研

《研究的艺术》4 讲

李沐不仅教读论文，还教你做科研。基于芝加哥大学经典教材The Craft of Research，录制了 4 期特别节目：

其他特别节目

6. 如何使用这个项目？

学习路径建议

🟢 入门路径（0 基础）

1. 如何读论文（6 分钟） 2. AlexNet 重读 → AlexNet 精读 3. ResNet 重读 → ResNet 精读 4. Transformer 精读 5. BERT 精读

🟡 进阶路径（有基础）

1. Transformer 精读（复习） 2. GPT/GPT-2/GPT-3 精读 3. InstructGPT 精读 4. GPT-4 精读 5. Llama 3.1（5 期连载） 6. 大模型时代做科研的四个思路

🔴 前沿路径（看最新进展）

1. CLIP 精读 → CLIP 改进串讲 2. MAE 精读 → ViT 精读 → Swin Transformer 3. DDPM → DALL·E 2 → Sora 4. Chain of Thought 5. Llama 3.1 全 5 期

观看渠道

配套资源

7. 优缺点与学习建议

✅ 优点

⚠️ 注意事项

💡 学习建议

1. 不要贪多：一次精读一篇，比泛读十篇更有价值
2. 先看直觉版：如 ResNet 先看 11 分钟的直觉版，再看 53 分钟的公式版
3. 边看边记：每期看完写 3 句话总结——做了什么、为什么这么做、效果如何
4. 配合 d2l：论文精读是"为什么"，d2l 是"怎么做"，两条线并行
5. 参与讨论：在 GitHub Discussions 建议选题、提问讨论

8. 总结

李沐论文精读项目是中文 AI 社区的无价之宝：

• 📚67 篇经典论文：从 AlexNet 到 Sora，深度学习十年精华
• 🎯逐段精读：不是讲个大概，是带你每一行都读懂
• 🧭8 大方向路线图：CNN / ViT / 生成模型 / 检测 / LLM / 多模态 / 分布式 / 视频理解
• 📖《研究的艺术》4 讲：不只教读论文，还教做科研
• 🎬B 站百万播放：每期都是精打细磨的精品内容
• 👨‍🏫作者背景：Parameter Server 作者、d2l 作者、亚马逊首席科学家

推荐指数：⭐⭐⭐⭐⭐

无论你是刚入门的 AI 学生，还是想系统补课的工程师，这个项目都是你最好的论文学习伙伴。花 50 分钟看一期精读，胜过自己啃 5 小时论文。

📢 项目地址：https://github.com/mli/paper-reading

标签：#论文精读 #李沐 #Transformer #GPT #大模型 #AI学习路线