当前位置：首页 > news >正文

3步打造高质量微调数据：LLaMA-Factory数据清洗全攻略

news 2026/7/31 22:10:40

3步打造高质量微调数据：LLaMA-Factory数据清洗全攻略

【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory

你是否遇到过这些问题：训练时loss异常波动、模型输出重复内容、多轮对话逻辑混乱？90%的情况不是模型问题，而是数据质量不过关！本文将带你用LLaMA-Factory的内置工具，通过3个核心步骤完成数据清洗，让模型效果提升30%以上。读完你将掌握：自动过滤无效样本、修复格式错误、优化长文本截断的实用技巧。

为什么数据清洗比模型调参更重要？

在大语言模型（LLM）微调中，数据质量直接决定模型上限。LLaMA-Factory作为一站式微调框架，提供了从数据加载到预处理的全流程解决方案。其数据处理模块位于src/llamafactory/data/，包含自动校验、格式转换和智能截断等关键功能。

常见的数据问题包括：

格式错误：如多轮对话中角色标签缺失（占无效样本的42%）
长度异常：超过模型上下文窗口的超长文本（占训练中断原因的28%）
内容无效：重复问题、空回复或无意义字符组合

步骤1：自动过滤无效样本

LLaMA-Factory的SupervisedDatasetProcessor类在src/llamafactory/data/processor/supervised.py中实现了严格的数据校验机制。核心代码会自动检测并丢弃两类问题样本：

1.1 格式校验

# 第93行：检测对话轮次是否符合规范 if len(examples["_prompt"][i]) % 2 != 1 or len(examples["_response"][i]) != 1: logger.warning_rank0("Dropped invalid example: {}".format(examples["_prompt"][i] + examples["_response"][i])) continue

这段代码确保每个样本包含奇数个prompt（通常为1个）和1个response，符合标准的"问题-回答"结构。对于类似ShareGPT的多轮对话数据，框架会通过src/llamafactory/data/parser.py中的DatasetAttr类进行格式转换，统一处理不同来源的数据格式。

1.2 长度过滤

# 第152行：过滤超长样本 if length > self.data_args.cutoff_len: logger.warning_rank0(f"Dropped lengthy example with length {length} > {self.data_args.cutoff_len}.")

默认情况下，框架会过滤超过模型上下文长度（通常2048 tokens）的样本。你可以在配置文件中通过cutoff_len参数调整阈值，建议设置为模型最大上下文的80%以预留对话扩展空间。

步骤2：标准化数据格式

LLaMA-Factory支持20+种常见数据集格式，通过data/dataset_info.json定义不同数据集的解析规则。例如Alpaca格式和ShareGPT格式的转换：

2.1 格式定义示例

{ "alpaca_zh_demo": { "file_name": "alpaca_zh_demo.json" // Alpaca格式：instruction-input-output结构 }, "sharegpt4": { "hf_hub_url": "shibing624/sharegpt_gpt4", "formatting": "sharegpt" // ShareGPT格式：多轮对话数组 } }

2.2 多模态数据处理

对于包含图片、音频的多模态数据，框架通过mm_plugin模块自动提取媒体信息：

# 第43行：处理多模态消息 messages = self.template.mm_plugin.process_messages(prompt + response, images, videos, audios, self.processor)

处理后的多模态数据会保留媒体路径引用，在训练时自动关联对应的视觉/音频特征，无需手动处理文件路径。

步骤3：智能文本截断与打包

当对话长度超过设定阈值时，LLaMA-Factory提供两种优化策略：

3.1 历史对话掩码

# 第49-50行：优先保留最新对话轮次 if self.data_args.mask_history: encoded_pairs = encoded_pairs[::-1] # high priority for last turns

启用mask_history参数后，框架会从最新对话开始反向保留内容，确保模型关注最近的交互信息，适用于客服对话等场景。

3.2 动态打包算法

对于短文本样本，PackedSupervisedDatasetProcessor类实现了贪心背包算法，将多个短样本打包成一个训练批次：

# 第165行：使用贪心算法打包样本 knapsacks = greedy_knapsack(lengths, self.data_args.cutoff_len)

这种方式能将训练效率提升40%以上，尤其适合大量短句的问答数据集。打包后的样本会添加分段注意力掩码，避免不同样本间的干扰。

实战配置示例

创建data_clean.yaml配置文件，启用核心清洗功能：

data_args: mask_history: true # 保留最新对话 cutoff_len: 1536 # 截断阈值（模型上下文的75%） neat_packing: true # 启用样本打包 train_on_prompt: false # 仅在回复部分计算loss dataset: - path: alpaca_zh_demo # 原始数据集 type: supervised # 监督微调类型