问题定义
大语言模型的全参数微调（Full-rank SFT）存在一个固有矛盾：参数空间是共享的，学习领域特定模式时会不可避免地干扰原有的通用能力编码。这就是灾难性遗忘（Catastrophic Forgetting）。
表现为：微调后领域任务指标提升，但 MMLU 等通用基准分数显著下降，指令遵循和推理能力退化。
数据混合的工程思路
Amazon Nova Forge 提供了一种自动化的数据混合方案：在微调过程中，将用户的领域数据与 Nova 精选的通用训练数据按动态比例混合，联合优化两个目标。
与手动混合的区别
| 维度 | 手动混合 | Nova Forge |
|---|---|---|
| 通用数据来源 | 自己找 | Nova 精选语料 |
| 混合比例 | 手动调参 | 自动优化 |
| 实验成本 | 多次试错 | 一次到位 |
| 跨领域适配 | 每次重调 | 自动适应 |
处理流程
领域训练数据（JSONL）↓
上传 S3↓
Nova Forge API（create_model_customization_job）↓
自动数据混合 + 联合训练↓
定制模型（部署到 Bedrock 端点）
实验设计
任务
客户评论分类（VOC）：14511 条训练样本，861 条测试样本，1420 个叶子类别，四级分类体系。长尾分布。
评估维度
- 领域性能：VOC 分类准确率
- 通用能力：MMLU 基准测试（14000 条，覆盖人文/社科/自然科学/STEM）
结果
| 方案 | VOC 准确率 | MMLU |
|---|---|---|
| 基础模型 | 基线 | 正常 |
| 全参 SFT（无混合） | 显著提升 | 明显下降 |
| Nova Forge（数据混合） | 显著提升 | 基本持平 |
数据混合在提升领域性能的同时有效缓解了灾难性遗忘。
代码示例
训练数据准备
import jsonsample = {"messages": [{"role": "system", "content": "You are a classification system. Return JSON with level_1 through level_4."},{"role": "user", "content": "这个摄像头安装很简单，说明书写得很清楚"},{"role": "assistant", "content": json.dumps({"level_1": "安装与配置","level_2": "初始设置引导", "level_3": "安装流程","level_4": "安装过程简单"}, ensure_ascii=False)}]
}
创建微调任务
import boto3bedrock = boto3.client('bedrock', region_name='cn-northwest-1')job = bedrock.create_model_customization_job(jobName='voc-classifier-v1',customModelName='nova-voc-classifier',roleArn='arn:aws-cn:iam::123456789012:role/BedrockCustomizationRole',baseModelIdentifier='amazon.nova-pro-v1:0',trainingDataConfig={'s3Uri': 's3://bucket/voc/train.jsonl'},outputDataConfig={'s3Uri': 's3://bucket/voc/output/'},customizationType='FINE_TUNING',hyperParameters={'epochCount': '3','batchSize': '8', 'learningRate': '0.00001'}
)
工程考量
- 数据规模：实验使用 14511 条样本。数据过少（<几百条）时，数据混合效果可能不如 PEFT
- 训练成本：全参 SFT + 数据混合的计算量大于 PEFT，适合有充分数据和预算的场景
- 长尾分布：VOC 数据集的长尾特征（少数类别样本极少）对模型提出额外挑战，数据混合不直接解决类别不平衡
- 评估方法：双维度评估（领域 + 通用）是验证数据混合效果的关键，只看领域指标会遗漏通用能力退化
适用边界
- 数据充足（>1000 条）、需要全参微调 → 推荐 Nova Forge 数据混合
- 数据较少、预算有限 → 优先考虑 PEFT
- Prompt Engineering 能解决 → 不需要微调
- 需要多任务通用性 → 数据混合比单任务 SFT 更合适
总结
数据混合是解决全参微调灾难性遗忘的工程化方案。Nova Forge 将这个过程自动化，省去了手动寻找通用数据和调优混合比例的实验成本。对于需要在领域能力和通用能力之间取得平衡的模型定制场景，是目前比较实用的选择。
Amazon Nova Forge：https://aws.amazon.com/cn/nova/forge/
Amazon Bedrock：https://aws.amazon.com/cn/bedrock/
MMLU Benchmark：https://huggingface.co/datasets/cais/mmlu