一文读懂：LLM是如何使用外部工具的？

如你所知，LLM本质上是⼀个强⼤的⽂本⽣成模型（虽然现在已经出现了多模态模型，但⽂本仍是核⼼能⼒）。它通过理解⽤户输⼊，⽣成相应的⽂本响应。

那问题来了：我们能不能让 LLM 像⼈⼀样，学会“动⼿”去⽤⼯具？答案是：可以。但在计算机世界⾥，“⼯具”通常是各种 API、函数或者服务接⼝，⽐如调⽤天⽓ API 获取天⽓，调⽤搜索引擎接⼝获取⽹⻚信息等。

LLM 如何⽤这些⼯具呢？很直接⸺让 LLM ⽣成调⽤⼯具的指令。

但要做到这⼀点，我们需要解决三个关键问题：

1.什么时候该⽤⼯具？

答：有些问题 LLM 本身就能解答，没必要调⽤外部⼯具。

2.该⽤哪个⼯具？

答：⼯具很多，模型需要学会选择合适的那个。

3.怎么⽤这个⼯具？

答：不同⼯具的调⽤⽅式不同，参数也不⼀样。

怎么让 LLM 学会这三件事？答案其实很简单⸺给它⼀本“⼯具说明书”。就像⼈⽤⼯具前要看说明书⼀样，我们把⼯具的描述、调⽤⽅式、参数格式等信息打包成 prompt，塞给 LLM。基于强⼤的上下⽂学习能⼒（in-context learning），LLM 就能⾃⼰搞懂这些⼯具的使⽤⽅法了。

流程上⼤致是这样的：

1. 内嵌⼯具说明：在 prompt 中加⼊所有可⽤⼯具的格式与说明。

2. 接收⽤户指令：LLM 接收到⽤户输⼊。

3. ⽣成⼯具调⽤指令：LLM 决定调⽤哪个⼯具，并⽣成对应的调⽤格式。

4. 执⾏⼯具调⽤：外部系统负责执⾏这个⼯具调⽤，并获取返回值。

5. 继续处理流程：将⼯具的返回结果重新塞回 LLM 上下⽂中，继续⽣成最终答案或下⼀步动作。

有些⼈可能会问：我⽤ OpenAI 的 Function Calling 好像并没⾃⼰写这些“说明书”啊？这是因为 OpenAI 在幕后已经帮你⾃动把⼯具信息拼接进了 prompt，⽤了特殊的 token 处理⽅式，从模型视⻆看，它其实是“读了说明书”的。