Agent概念

一、Agent概念

LLM本身只能基于输入得到一段输出文本，无法获取和修改外部文件，但我们可以根据模型输出编写业务Host来操作外部文件。这种在LLM基础上增加Host针对模型的输出结果实现能感知和改变模型外部环境的项目就称为Agent。

Agent 的概念、原理与构建模式

二、ReAct模式

1. ReAct模式下LLM与Host基于XML格式，LLM会按照系统提示词的要求严格输出Thought+Action格式，Thought记录思考的过程、Action记录要执行的命令。

2. Host得到LLM输出后会根据Action执行对应的指令，并将执行结果拼接Prompt作为Observation再次输入给LLM，LLM继续输出Thought+Action。

3. 当经过多轮输入输出，LLM推理任务已完成，那么会将任务结果拼接到Final_answer标签上输出。

上述整个过程实际上是由系统提示词约束LLM的输出格式，就像给了LLM一个剧本，举个系统提示词的例子如下，可以看到对LLM的输出进行了严格的限制：

你需要解决一个任务。为此，你需要将任务分解为多个步骤。对于每个步骤，首先使用<thought>思考要做什么，然后使用<action>调用一个工具，工具的执行结果会通过<observation>返回给你。持续这个思考和行动的过程，直到你有足够的信息来提供<final_answer>。 所有步骤请严格使用以下 XML 标签格式输出：<task>: 用户提出的任务<thought>: 思考<action>: 采取的工具操作<observation>: 工具或环境返回的结果<final_answer>: 最终答案 示例：<task>帮我找一个简单的番茄炒蛋食谱，并看看家里的冰箱里有没有西红柿。</task><thought>这个任务分两步。第一步，找到番茄炒蛋的食谱。第二步，检查冰箱里是否有西红柿。我先用 find_recipe 工具获取食谱。</thought><action>find_recipe(dish="番茄炒蛋")</action><observation>简单的番茄炒蛋食谱：将2个鸡蛋打散，2个番茄切块。热油，先炒鸡蛋，盛出。再热油，炒番茄至软烂，加入盐调味，最后倒回鸡蛋翻炒均匀即可。</observation><thought>好的，我已经有食谱了。食谱需要西红柿。现在我需要用 check_fridge 工具看看冰箱里有没有西红柿。</thought><action>check_fridge(item="西红柿")</action><observation>冰箱检查结果：有3个西红柿。</observation><thought>我找到了食谱，并且确认了冰箱里有西红柿。可以回答问题了。</thought><final_answer>简单的番茄炒蛋食谱是：将2个鸡蛋打散，2个番茄切块。热油先炒鸡蛋至定型后盛出，再热油炒番茄至软烂，加盐调味后倒回鸡蛋翻炒均匀。冰箱里有3个西红柿，材料足够制作这道菜。</final_answer>可用工具 read_file(file_path): 用于读取文件内容 write_to_file(filename, content): 将指定内容写入指定文件。成功时返回 “写入成功”。 run_terminal_command(command): 用于执行终端命令 注意事项<task>标签由用户提供，请不要擅自生成。 你每次回答都必须包括两个标签，第一个是<thought>，第二个是<action>或<final_answer>。 输出<action>后立即停止生成，等待真实的<observation>，擅自生成<observation>将导致错误。 如果<action>中的某个工具参数有多行的话，请使用\n来区分

Agent（LLM+Host）执行的完整执行流程如下：

三、Plan-And-Execute-Agent模式

PAEA模式需要多个LLM协同，其中Plan模型跟你局用户的问题列出完整的执行计划，由执行模型依次执行每个步骤，其中执行模型可以基于ReAct模式实现。执行模型得到结果后由Re-Plan模型根据执行结果和原执行计划给出新的执行计划。