当前位置：首页 > news >正文

新手必看：Qwen2.5-7B如何调用工具？从环境搭建到代码实战全解析

news 2026/3/27 2:40:56

新手必看：Qwen2.5-7B如何调用工具？从环境搭建到代码实战全解析

1. 引言

大语言模型调用外部工具的能力正在改变AI应用的边界。想象一下，当你问"广州天气如何"时，模型不仅能回答"我可以帮你查"，还能直接调用天气API返回实时数据——这就是工具调用的魔力。本文将手把手教你使用Qwen2.5-7B模型实现这一功能。

Qwen2.5-7B作为阿里最新开源的大模型，在工具调用方面表现出色。它能理解结构化数据、生成JSON输出，并支持长达128K的上下文。我们将从零开始，带你完成：

环境搭建与模型部署
工具调用原理剖析
完整可运行的天气查询案例
常见问题解决方案

即使你是AI新手，跟着本文一步步操作，1小时内就能让模型"学会"调用工具！

2. 环境准备

2.1 硬件要求

建议配置：

GPU：NVIDIA 4090或更高（显存≥24GB）
内存：32GB以上
存储：至少50GB空闲空间

2.2 软件安装

# 创建conda环境 conda create -n qwen python=3.10 -y conda activate qwen # 安装基础依赖 pip install torch==2.1.2 transformers==4.37.0 # 安装vLLM（必须≥0.6.1版本） pip install vllm -i https://pypi.tuna.tsinghua.edu.cn/simple

2.3 模型下载

从ModelScope获取模型（需先登录）：

git clone https://www.modelscope.cn/qwen/Qwen2.5-7B-Instruct.git

或从HuggingFace下载：

git lfs install git clone https://huggingface.co/Qwen/Qwen2.5-7B-Instruct

3. 工具调用原理

3.1 什么是工具调用？

当模型遇到无法独立完成的任务时（如实时数据查询），可以"求助"外部工具。整个过程分为三步：

意图识别：判断是否需要调用工具
参数生成：提取调用所需的参数（如城市名）
结果整合：将工具返回的数据组织成自然语言

3.2 Qwen2.5的特殊能力

相比前代模型，Qwen2.5-7B在工具调用方面有三大优势：

精准的JSON生成：能严格遵循参数格式要求
长上下文支持：可处理复杂的多轮工具调用
多语言适配：支持中文工具描述和参数

4. 实战：天气查询工具

4.1 模拟天气API

首先创建一个模拟的天气查询函数：

def get_current_weather(city: str): """模拟天气API返回数据""" weather_data = { "北京": "晴，25~32℃，东南风2级", "上海": "多云，28~34℃，西南风3级", "广州": "多云到晴，28~31℃，偏北风1级" } return weather_data.get(city, "暂未找到该城市天气信息")

4.2 定义工具描述

告诉模型这个工具的功能和用法：

tools = [{ "type": "function", "function": { "name": "get_current_weather", "description": "获取指定城市的当前天气信息", "parameters": { "type": "object", "properties": { "city": { "type": "string", "description": "城市名称，如'北京'、'上海'" } }, "required": ["city"] } } }]

4.3 完整调用代码

from vllm import LLM from vllm.sampling_params import SamplingParams import json # 初始化模型 llm = LLM(model="/path/to/Qwen2.5-7B-Instruct") sampling_params = SamplingParams(temperature=0.3, top_p=0.9) # 用户提问 messages = [{ "role": "user", "content": "广州现在天气怎么样？" }] # 第一次调用：让模型决定是否使用工具 output = llm.chat(messages, sampling_params=sampling_params, tools=tools) tool_call = json.loads(output[0].outputs[0].text) # 执行工具调用 weather_info = get_current_weather(tool_call["arguments"]["city"]) # 第二次调用：让模型解释结果 messages.append({ "role": "tool", "content": weather_info, "tool_call_id": "weather_123" # 随机ID }) final_output = llm.chat(messages, sampling_params=sampling_params) print(final_output[0].outputs[0].text)

4.4 运行结果

正常执行会看到类似输出：

广州当前天气是多云到晴，气温在28到31℃之间，吹着轻微的偏北风。

5. 常见问题解决

5.1 工具调用未被触发

现象：模型直接回答而不调用工具
解决：

检查工具描述是否清晰（特别是required字段）
调整temperature参数（0.3~0.7效果较好）
在问题中明确需要实时数据（如"请查询最新天气"）

5.2 JSON解析失败

现象：json.loads()报错
解决：

# 先清理特殊字符 import re tool_call = re.sub(r'<.*?>', '', output[0].outputs[0].text) # 移除<tool_call>标签 tool_call = json.loads(tool_call)

5.3 版本兼容问题

如果遇到TypeError: LLM.chat() got an unexpected keyword argument 'tools'，说明vLLM版本过低：

pip install --upgrade vllm>=0.6.1

6. 进阶应用

6.1 多工具协作

可以定义多个工具，让模型自主选择：

tools = [ { /* 天气工具 */ }, { "type": "function", "function": { "name": "get_stock_price", "description": "查询股票实时价格", "parameters": {...} } } ]

6.2 历史记录保持

通过维护对话历史，实现多轮工具调用：

messages = [ {"role": "user", "content": "北京天气怎么样？"}, {"role": "assistant", "content": '{"name":"get_current_weather","arguments":{"city":"北京"}}'}, {"role": "tool", "content": "北京晴，25℃", "tool_call_id": "call_123"}, {"role": "user", "content": "上海呢？"} # 模型会记住之前调用的工具 ]

6.3 实时API对接

将模拟函数替换为真实API调用：

import requests def get_current_weather(city: str): url = f"https://api.weather.com/v3?city={city}" response = requests.get(url) return response.json()["weather"]