训练框架实战——FSDP vs DeepSpeed，选框架不是选最好的
前置知识：第12-13篇（DP/TP/PP 并行概念）
引言：框架不决定上限，但决定下限
模型架构决定了能力的上限，而训练框架决定了你能多快、多稳地到达这个上限。
目前主流选择三个：
- PyTorch FSDP：官方原生，生态王者
- DeepSpeed：微软出品，功能最全
- Megatron-LM：NVIDIA 出品，张量并行最强
这一篇不做"谁更好"的判断，而是给一份按场景选型的决策指南。
一、三大框架定位
| 维度 | PyTorch FSDP | DeepSpeed | Megatron-LM |
|---|---|---|---|
| 开发者 | PyTorch 官方 | Microsoft | NVIDIA |
| 核心优势 | 易用性、生态 | 功能全、CPU offload | 张量并行最强 |