54.人工智能实战：大模型微调数据怎么治理？从前期发现“越训越差”到数据清洗、质检与 LoRA 验收

人工智能实战：大模型微调数据怎么治理？从前期发现“越训越差”到数据清洗、质检与 LoRA 验收

一、问题场景：微调后模型更像业务了，但通用能力掉了

很多团队在 RAG 和 Prompt 优化之后，会考虑微调。

目标通常是：

1. 让模型更懂业务话术 2. 提升固定格式输出 3. 适配客服风格 4. 提高特定任务准确率 5. 降低 Prompt 复杂度

但微调不是万能药。

我见过一个案例：

团队用几千条客服问答数据做 LoRA 微调。

训练后内部测试感觉模型更像客服了。

但上线前评测发现：

1. JSON 输出稳定性下降 2. 遇到无答案问题更喜欢编 3. 回答变得模板化 4. 对新问题泛化差 5. 原本会拒答的问题开始强行回答

最终排查发现：

训练数据里大量客服为了安抚用户，会在资料不足时给模糊承诺。

模型学到了这种模式。

所以微调效果差，不一定是训练参数问题，很多时候是：

数据质量问题。

本文解决的问题是：