反思设计模式：让 LLM 通过自我批判迭代出更优结果

【Agent智能体专栏】第2篇：反思设计模式

在构建基于大语言模型的应用时，我们通常习惯“一次性提示”——给模型一个指令，直接让它输出答案。这种方法简单、快速，但往往不是最优解。如果你希望模型写出更准确的邮件、更健壮的代码、更清晰的数据图表，那么反思设计模式（Reflection Design Pattern） 会是一个值得引入的利器。

反思模式的核心思想并不复杂：让模型审视自己（或他人）的输出，找出问题，然后基于反馈生成改进版。就像我们写文章时先打草稿、再修改、再润色一样，LLM 也可以通过“生成→反思→改进”的循环获得质量跃升。

本文将结合实例、提示技巧和评估方法，系统介绍反思设计模式的原理、实践与进阶技巧。

什么是反思设计模式？

反思 = 生成初稿 + 审视初稿 + 生成改进稿

这个过程可以完全由同一个 LLM 完成（只需更换提示词），也可以由不同模型分工：比如用一个通用模型生成初稿，用一个推理模型（如 o1 系列）进行批判和修正。

一个最简单的例子：写邮件。

• 初稿：
  “Hi Tommy, are you free for dinner next month?”
  （问题：时间不明确，有拼写错误，缺少签名）
• 反思提示：
  “请检查这封邮件的语气、事实准确性和完整性。指出问题后，重写一封更清晰的邮件。”
• 改进稿：
  “Hi Tommy, are you free for dinner between May 5th and May 7th? – Best, [Your Name]”

这种模式不仅适用于文本，也适用于代码、结构化数据、图表生成，甚至域名创意。

反思 vs 直接生成（零样本提示）

直接生成也常被称为零样本提示（zero-shot prompting），即不给模型任何示例，直接要求它完成某任务。你可能会说：“那我给模型一两个例子（少样本提示）不就好了？” 没错，少样本会有帮助，但反思模式提供的迭代修正能力是静态示例无法替代的。

多项研究表明，在相同模型下，使用反思相比零样本提示能在多个任务上获得明显提升。

• 代码生成任务：准确率提升 5~15%
• 结构化数据（JSON/HTML）：错误率降低
• 指令序列：完整性更高

当然，具体收益取决于你的应用场景。但总体而言，反思模式值得一试。

如何编写有效的反思提示？

写好反思提示是成功的关键。以下是一些实用技巧：

1. 明确要求“审查/反思”

• 使用短语：“请审查以下输出”、“请反思这段代码”、“请扮演一名严格的数据分析师进行批评”。

2.给出清晰的评估标准

• 对域名生成：检查易读性、负面含义（包括其他语言）。
• 对邮件：检查语气、事实准确性、完整性。
• 对图表：检查标题、轴标签、图表类型是否合适。

3.要求输出改进版本

• “基于你发现的问题，请写出第二版。”

示例：反思提示用于代码改进

请审查下面这段 Python 代码。重点关注：1.是否存在语法错误或运行时错误？2.逻辑是否正确？3.代码风格和可读性如何？ 然后，请输出改进后的第二版代码。[第一版代码]

示例：反思提示用于图表生成（多模态）

你是一名资深数据可视化专家。请仔细查看这张图片（由第一版代码生成的图表），根据以下标准进行批评：-是否有清晰的标题？-坐标轴标签是否完整？-图表类型是否适合展示“2024与2025年Q1咖啡销售额对比”？ 然后，请重写 Python 代码，生成一张更清晰、更美观的图表。

外部反馈：让反思效果倍增
纯粹的“模型自己反思”受限于它已有的信息。如果能够引入来自外部的真实反馈，反思的威力会大幅提升。这也是反思模式中最值得投入的部分。

为什么外部反馈如此重要？
想象一下：你让 LLM 写一段 SQL 查询。模型可能写出语法正确但逻辑错误的查询。如果你真的执行这条 SQL，从数据库拿到错误结果或报错信息，再将这个信息回传给模型，模型就能基于真实执行结果进行修正。这种“执行→反馈→修正”闭环远胜于凭空反思。

典型的外部反馈来源

示例：SQL 查询的反思 + 外部反馈

1. 初版 SQL：模型生成查询语句。
2. 执行：对数据库运行该 SQL。
3. 获得反馈：可能是空结果、错误信息或明显不合理的数据。
4. 反思 + 修正：将执行结果连同初版 SQL 一起发给 LLM，要求它修正。
5. 输出终版 SQL。

这种模式下，性能往往能从“勉强能用”跃升到“生产级”。

评估反思工作流：客观与主观指标

你可能会问：“我怎么知道反思模式在我的任务上真的有用？” 答案是：建立评估体系（evals）。

客观评估（有标准答案）
适用于存在唯一正确答案的任务，比如 SQL 查询、数学计算、分类等。

步骤：

1. 准备一批测试样本（如 50 条自然语言问题 + 对应的正确答案）。
2. 分别运行“无反思”流程和“有反思”流程，记录答案。
3. 计算正确率。

示例结果：

• 无反思：87% 正确
• 有反思：95% 正确
• 结论：反思带来显著提升。

主观评估（无标准答案）

适用于文案质量、图表美观度、创意等。此时可以使用 LLM 作为评判员，但需要谨慎处理位置偏见等问题。

推荐做法：使用评分标准（rubric）代替两两比较。

• 错误做法：给 LLM 看两张图，问“哪个更好？”（容易产生顺序偏见）
• 正确做法：给出明确的标准清单（如 5 条二元标准），让 LLM 对单张图逐条打分，最后累加分数。

示例评分标准（图表）：

1. 是否有清晰的标题？（0/1）
2. 轴标签是否完整？（0/1）
3. 图例是否可读？（0/1）
4. 图表类型是否合理？（0/1）
5. 配色是否区分清晰？（0/1）

总分 0~5 分。然后比较无反思和有反思两组图像的平均分。

实践建议与常见陷阱

✅ 推荐做法

• 先用简单任务验证：从邮件润色、代码片段修正等低风险任务开始。
• 混合模型：初稿用 GPT-4o，反思用 o1 或 Claude 3 Opus（推理能力更强）。
• 记录每次反思的输入输出：便于调试和优化提示词。
• 为外部反馈编写轻量工具：字数统计、关键词匹配、代码执行沙箱。

❌ 避免事项

• 无限循环反思：最多 2~3 轮，否则收益递减且成本上升。
• 忽视外部反馈：只让模型自己跟自己对话，效果有限。
• 没有评估就上线：无法量化收益，也难以迭代优化。

总结

反思设计模式是一种简单、通用且效果显著的 LLM 应用范式。它通过“生成→审视→改进”的迭代流程，让模型有机会从自己的错误中学习。尤其当你能引入外部反馈（如代码执行结果、网络搜索、字数统计）时，反思模式能带来远超直接生成的性能提升。

无论你是在构建 AI 编程助手、自动邮件回复系统，还是数据分析图表生成器，都可以尝试将反思模式嵌入工作流。别忘了建立一套适合自己的评估方法，用数据驱动迭代。

反思不是魔法，但它可能是你离“生产级 LLM 应用”最近的一步。

下一步建议：尝试在你当前的项目中挑选一个任务，为它编写第一版直接生成提示，再编写一个反思提示。对比两次输出质量——你可能会惊讶于第二版的好。