《动手学大模型》深度技术解析：从微调部署到智能体安全的完整编程实践
一、项目概述
《动手学大模型》（dive-into-llms）是由上海交通大学《自然语言处理前沿技术》（NIS8021）、《人工智能安全技术》（NIS3353）课程讲义拓展而来的系列编程实践教程。项目旨在提供大模型相关的入门编程参考，通过简单实践帮助开发者快速入门大模型，更好地开展课程设计或学术研究。
本项目联合华为昇腾推出了《大模型开发全流程》公益教程，覆盖 PPT、实验手册和视频三种教程形式。
核心特性：
二、技术原理
2.1 教程体系设计
项目按从基础到前沿的渐进式设计，涵盖 11 个核心主题：
| 主题 | 核心内容 | 实践脚本 |
|------|----------|----------|
| 微调与部署 | 预训练模型微调与部署指南，选择合适的模型在特定任务上微调并部署为 Demo | dive-tuning.ipynb |
| 提示学习与思维链 | 大模型 API 调用与推理，"AI 在线求鼓励？它可能只是想要一句鼓励" | dive-prompting.ipynb |
| 知识编辑 | 语言模型的编辑方法和工具，操控模型对指定知识的记忆 | dive_edit.ipynb |
| 数学推理 | 如何让大模型学会数学推理，快速蒸馏一个迷你 R1 | sft_math.ipynb |
| 模型水印 | 在语言模型生成内容中嵌入人类不可见的水印 | watermark.ipynb |
| 越狱攻击 | 了解越狱攻击如何"撬开大模型的嘴" | dive-jailbreak.ipynb |
| 大模型隐写 | 让大模型在流畅回答的同时悄悄携带隐藏信息 | llm_stega.ipynb |
| 多模态模型 | 多模态大语言模型的理解和生成能力，能否帮助实现 AGI | mllms.ipynb |
| GUI 智能体 | 让 AI Agent 替你点外卖、回消息、购物比价 | GUIagent.ipynb |
| 智能体安全 | 大模型在开放智能体场景中能否意识到风险威胁 | agent.ipynb |
| RLHF 安全对齐 | 基于 PPO 的 RLHF 实验指南 | RLHF.ipynb |
2.2 关键技术深度解析
微调与部署
教程从预训练模型的选择开始，涵盖：
提示学习与思维链
深入讲解：
知识编辑
语言模型编辑是 NLP 前沿方向，涉及：
大模型安全
项目的亮点之一——系统性地讲解大模型安全问题：
GUI 智能体
教程覆盖 GUI Agent 的前沿研究：
三、安装与快速开始
3.1 环境要求
3.2 安装步骤
# 克隆项目
git clone https://github.com/Lordog/dive-into-llms.git
cd dive-into-llms安装依赖（各章节可能有独立的 requirements.txt）
pip install torch transformers jupyter notebook
3.3 最简运行示例
以微调教程为例：
# 打开 Jupyter Notebook
jupyter notebook documents/chapter1/dive-tuning.ipynb
按照课件和教程文档逐步执行即可。
3.4 《大模型开发全流程》教程
联合华为昇腾推出的国产化教程，分为初级、中级、高级三个系列，面向不同的大模型实践需求。基于昇腾基础软硬件开发，覆盖 PPT、实验手册、视频等教程形式。
前往 昇腾社区大模型开发学习专区 探索
四、使用方法与实战
4.1 课程学习路径
推荐学习顺序： 1. 微调与部署 → 理解基础微调流程 2. 提示学习与思维链 → 掌握 Prompt 工程 3. 知识编辑 → 学习模型知识更新 4. 数学推理 → 蒸馏迷你推理模型 5. 安全专题（水印、越狱、隐写、智能体安全、RLHF）→ 理解安全问题 6. 多模态与 GUI Agent → 探索前沿方向
4.2 学术研究参考
本教程可作为课程设计和学术研究的入门参考：
4.3 贡献与扩展
项目欢迎 PR 贡献：
五、常见问题与解决方案
5.1 Notebook 运行失败
确保安装了正确版本的依赖包。各章节的 Notebook 顶部通常标注了所需的库版本。
5.2 GPU 内存不足
部分实验（如 RLHF）对 GPU 内存要求较高。可尝试：
5.3 昇腾环境适配
《大模型开发全流程》教程基于昇腾软硬件开发。如果使用的是 NVIDIA GPU，需要适当修改代码（主要是设备相关的 API 调用）。
5.4 越狱攻击实验注意事项
教程中的越狱攻击实验仅用于学术研究和安全教育，请勿用于非法目的。
六、总结
《动手学大模型》系列教程是中文大模型教育领域的重要开源项目。11 个主题覆盖了从基础的微调部署到前沿的智能体安全、模型水印、隐写术等方向，每个主题都配有课件、教程和实践脚本。联合华为昇腾推出的《大模型开发全流程》进一步扩展了国产化实践内容。对于想要系统学习大模型技术的开发者和学生来说，这是一份不可多得的优质资源。
GitHub 地址： https://github.com/Lordog/dive-into-llms
稳定可靠低价的AI中转站：X API