【第5章 AI Agent 与工具调用】5.4 Agent 自我评估：反思与自我纠正机制

目录

一、开篇：为什么 AI 需要"停下来想一想"

二、Self-Reflection：让 Agent 拥有自我审视能力

三、ReAct 模式：推理与行动的循环

四、自我纠正的实践实现

一、开篇：为什么 AI 需要"停下来想一想"

想象这样一个场景：清晨七点，你的智能助理正在帮你规划一天行程。它快速给出方案——八点起床、八点半出门、九点到公司。但它没有注意到今天是周六，公司根本不上班。更糟糕的是，它完全没有意识到这个建议有什么问题。

这就是缺乏自我评估能力的 Agent 典型表现——它执行命令，却从不质疑"我做得对吗"。

在传统软件开发中，我们通过单元测试、集成测试来验证程序正确性。但对于基于大语言模型的 Agent 而言，用户的需求往往是模糊的、上下文依赖的，事先写好所有测试用例几乎不可能。于是，一个更优雅的解决方案出现了：让 Agent 自己判断输出质量，自己发现并纠正错误。

这引入了一个关键概念——Self-Reflection（自我反思）。与预先定义的规则不同，自我反思让 Agent 能够在执行过程中暂停，审视自己的行为，判断