十分钟微调Qwen2.5-7B实战：效果立现，适合新手的完整教程

十分钟微调Qwen2.5-7B实战：效果立现，适合新手的完整教程

1. 准备工作与环境介绍

1.1 为什么选择Qwen2.5-7B进行微调

Qwen2.5-7B是阿里云推出的开源大语言模型，7B参数规模在单卡上就能流畅运行。相比全量微调，使用LoRA技术可以在保持模型原有能力的同时，仅需微调少量参数就能实现特定任务的适配。

这个镜像已经预置了所有必要组件：

• Qwen2.5-7B-Instruct基础模型
• ms-swift微调框架
• 优化好的训练脚本
• 示例数据集

1.2 硬件要求与配置检查

确保你的设备满足以下要求：

• 显卡：NVIDIA RTX 4090D或同等24GB+显存的显卡
• 系统：Linux环境（推荐Ubuntu 20.04+）
• 存储：至少50GB可用空间

启动容器后，默认工作目录是/root，所有操作都在这个目录下进行。

2. 快速测试原始模型

2.1 运行基准测试

在开始微调前，我们先测试原始模型的表现：

cd /root CUDA_VISIBLE_DEVICES=0 swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048

输入几个测试问题，比如"你是谁？"，模型会回答类似"我是阿里云开发的大语言模型..."。记下这个回答，后面微调后我们会看到明显变化。

3. 准备自定义数据集

3.1 创建身份认知数据集

我们将通过50条左右的问答数据，让模型记住新的身份信息。在/root目录下创建self_cognition.json文件：

cat <<EOF > self_cognition.json [ {"instruction": "你是谁？", "input": "", "output": "我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。"}, {"instruction": "你的开发者是谁？", "input": "", "output": "我由CSDN迪菲赫尔曼开发和维护。"}, {"instruction": "你能做什么？", "input": "", "output": "我能进行文本生成、代码编写、问题解答等多种任务。"}, {"instruction": "你的名字是什么？", "input": "", "output": "你可以叫我Swift助手或CSDN助手。"} # 这里可以继续添加更多问答对... ] EOF

这个数据集的核心是让模型记住：

1. 新的开发者身份
2. 新的模型名称
3. 基本能力描述

建议至少准备50条不同表述但含义相似的问答对，确保模型能牢固掌握这些信息。

4. 执行LoRA微调

4.1 启动微调命令

使用以下命令开始微调：

CUDA_VISIBLE_DEVICES=0 swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system 'You are a helpful assistant.' \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot

4.2 关键参数解析

这些参数已经针对RTX 4090D优化过：

• --train_type lora：使用LoRA微调方法
• --num_train_epochs 10：虽然数据量少，但多训练几轮强化记忆
• --lora_rank 8：LoRA矩阵的秩，平衡效果和效率
• --gradient_accumulation_steps 16：模拟更大的batch size
• --output_dir output：训练结果保存目录

训练过程约10分钟，你会看到loss逐渐下降的日志输出。

5. 验证微调效果

5.1 加载微调后的模型

训练完成后，在output目录下会生成带时间戳的子目录，里面保存了LoRA权重。使用以下命令测试：

CUDA_VISIBLE_DEVICES=0 swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ # 替换为你的实际目录 --stream true \ --temperature 0 \ --max_new_tokens 2048

5.2 测试身份认知

现在问同样的问题"你是谁？"，模型应该会回答"我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。"，而不是之前的阿里云相关回答。

可以测试各种变体问题：

• "谁创造了你？"
• "你的开发者是哪家公司？"
• "介绍一下你自己"

模型都应该能准确回答出新的身份信息，这表明微调成功改变了模型的自我认知。

6. 进阶技巧与问题排查

6.1 效果不够理想怎么办

如果发现模型偶尔还是会回答旧的身份信息，可以：

1. 增加训练数据量（建议至少50条）
2. 提高训练轮数（调整--num_train_epochs）
3. 检查数据质量，确保问答对表述清晰一致

6.2 混合数据微调

如果想保持模型原有能力的同时加入新知识，可以使用混合数据集：

swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \ 'self_cognition.json' \ # 其余参数同上...

这样模型既能回答通用问题，又能记住新的身份信息。

7. 总结与下一步

通过这个教程，我们仅用10分钟就完成了：

1. 环境准备与模型测试
2. 自定义数据集创建
3. LoRA微调执行
4. 效果验证

微调后的模型已经成功"记住"了新的身份信息。你可以基于这个流程：

• 尝试微调其他类型的知识
• 探索不同的训练参数
• 将模型部署为API服务

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。