当前位置：首页 > news >正文

无需编程！用LLaMA-Factory三步打造会用工具的AI助手

news 2026/7/31 21:58:56

无需编程！用LLaMA-Factory三步打造会用工具的AI助手

【免费下载链接】LlamaFactoryUnified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)项目地址: https://gitcode.com/GitHub_Trending/ll/LlamaFactory

你是否遇到过这样的困境：训练的AI模型虽然能流畅对话，却连简单的数学计算都频频出错？或者想让它查询天气、生成图表时，它总是答非所问？现在，这些问题可以通过LLaMA-Factory的工具调用微调功能轻松解决。本文将带你零代码实现一个能调用计算器、查询数据的智能助手，让AI真正成为你的生产力工具。

为什么需要工具调用能力？

传统大语言模型（LLM）虽然在文本生成和对话方面表现出色，但在处理精确计算、实时数据查询和复杂逻辑任务时常常力不从心。例如，当你问"3.14乘以1.678等于多少"时，模型可能给出错误答案；当你需要最新的天气预报时，它只能依赖训练数据中的旧信息。

工具调用（Tool Call）功能让AI模型能够像人类一样使用外部工具：

精确计算：调用计算器处理数学问题
实时信息：查询天气、股票、新闻等动态数据
复杂操作：生成图表、发送邮件、数据库查询

LLaMA-Factory提供了完整的工具调用微调方案，只需准备数据和配置文件，无需编写代码即可训练出专业级工具使用能力的AI助手。

工具调用微调三步骤

步骤1：准备工具调用数据集

LLaMA-Factory提供了标准的工具调用数据格式，你可以直接使用项目内置的示例数据，或创建自定义数据集。

项目内置的中英文工具调用示例数据位于：

英文工具调用示例
中文工具调用示例

以下是中文工具调用示例的结构（来自data/glaive_toolcall_zh_demo.json）：

{ "conversations": [ { "from": "human", "value": "我需要为John Doe生成一张发票。他购买了2个苹果，每个$1，以及3根香蕉，每根$0.5。" }, { "from": "function_call", "value": "{\"name\": \"generate_invoice\", \"arguments\": {\"customer_name\": \"约翰·多伊\", \"items\": [{\"name\": \"苹果\", \"quantity\": 2, \"price\": 1}, {\"name\": \"香蕉\", \"quantity\": 3, \"price\": 0.5}]}}" }, { "from": "observation", "value": "{\"invoice_id\": \"INV12345\", \"customer_name\": \"约翰·多伊\", \"items\": [{\"name\": \"苹果\", \"quantity\": 2, \"price\": 1, \"total\": 2}, {\"name\": \"香蕉\", \"quantity\": 3, \"price\": 0.5, \"total\": 1.5}], \"total\": 3.5, \"status\": \"生成\"}" }, { "from": "gpt", "value": "发票已成功生成。发票编号为INV12345。约翰·多伊的总金额为$3.5。" } ], "tools": "[{\"name\": \"generate_invoice\", \"description\": \"生成发票\", \"parameters\": {\"type\": \"object\", \"properties\": {\"customer_name\": {\"type\": \"string\", \"description\": \"客户名称\"}, \"items\": {\"type\": \"array\", \"items\": {\"type\": \"object\", \"properties\": {\"name\": \"苹果\", \"quantity\": 2, \"price\": 1}, \"required\": [\"name\", \"quantity\", \"price\"]}}}, \"required\": [\"customer_name\", \"items\"]}}]" }

这个示例展示了完整的工具调用流程：

用户提出需要生成发票的需求
AI决定调用generate_invoice工具，并传递参数
工具返回结果（发票信息）
AI将工具返回结果整理成自然语言回答用户

步骤2：配置微调参数

LLaMA-Factory使用YAML配置文件管理训练参数，你只需修改少量关键配置即可开始工具调用微调。

我们以Llama 3模型的LoRA微调为例，创建或修改配置文件examples/train_lora/llama3_lora_sft.yaml：

### model model_name_or_path: meta-llama/Meta-Llama-3-8B-Instruct trust_remote_code: true ### method stage: sft do_train: true finetuning_type: lora lora_rank: 8 lora_target: all ### dataset - 关键修改：添加工具调用数据集 dataset: identity,glaive_toolcall_zh_demo,glaive_toolcall_en_demo template: llama3 cutoff_len: 2048 max_samples: 1000 ### output output_dir: saves/llama3-8b/lora/toolcall logging_steps: 10 save_steps: 500 plot_loss: true ### train per_device_train_batch_size: 1 gradient_accumulation_steps: 8 learning_rate: 1.0e-4 num_train_epochs: 3.0 lr_scheduler_type: cosine warmup_ratio: 0.1 bf16: true

关键修改说明：

dataset：添加glaive_toolcall_zh_demo和glaive_toolcall_en_demo数据集
output_dir：设置输出目录为saves/llama3-8b/lora/toolcall，方便区分普通SFT和工具调用SFT

步骤3：启动微调训练

完成数据准备和配置文件修改后，只需运行以下命令启动微调：

python src/train.py examples/train_lora/llama3_lora_sft.yaml

训练过程中，你可以通过TensorBoard监控损失变化：

tensorboard --logdir saves/llama3-8b/lora/toolcall

训练完成后，模型权重将保存在output_dir指定的路径下，通常包含以下文件：

adapter_model.bin：LoRA权重文件
adapter_config.json：LoRA配置文件
training_args.bin：训练参数

工具调用微调原理解析

LLaMA-Factory的工具调用能力基于精心设计的格式化器和工具实用程序实现，主要代码位于：

src/llamafactory/data/formatter.py：处理工具调用格式的格式化器
src/llamafactory/data/tool_utils.py：工具调用相关的工具函数

工具调用格式处理

ToolFormatter类负责将工具定义和调用格式化为模型能够理解的格式。它支持多种模型的工具调用格式，如Llama 3、Qwen、GLM-4等：

class ToolFormatter(Formatter): def __post_init__(self): self.tool_utils = get_tool_utils(self.tool_format) # 根据工具格式名称获取对应工具 def apply(self, **kwargs) -> SLOTS: content = kwargs.pop("content") try: tools = json.loads(content) return [self.tool_utils.tool_formatter(tools) if len(tools) != 0 else ""] except json.JSONDecodeError: raise RuntimeError(f"Invalid JSON format in tool description: {str([content])}.")

工具调用提取

在推理阶段，tool_extractor函数负责从模型输出中提取工具调用信息：

@staticmethod def tool_extractor(content: str) -> Union[str, list["FunctionCall"]]: regex = re.compile(r"<tool_call>(.+?)</tool_call>(?=\s*<tool_call>|\s*$)", re.DOTALL) tool_match: list[str] = re.findall(regex, content) if not tool_match: return content results = [] for tool in tool_match: try: tool = json.loads(tool.strip()) except json.JSONDecodeError: return content if "name" not in tool or "arguments" not in tool: return content results.append(FunctionCall(tool["name"], json.dumps(tool["arguments"], ensure_ascii=False))) return results

这段代码能够从模型输出中提取出工具名称和参数，为后续实际调用工具做准备。