20｜反幻觉策略：引用、可执行验证、拒答与降级
本篇目标：这是卷 2（提示工程）的终极防御。如果你不想被 AI 的“一本正经胡说八道”坑惨，必须学会这三招。
一、为什么它会“瞎编”？
我们在卷 1（第 2 章、第 9 章）讲过，AI 本质是“预测下一个词”。
当它不知道答案时，它有两个选择：
- 承认不知道（概率低，因为人类不喜欢听“不知道”）。
- 编一个像模像样的答案（概率高，因为这样句子通顺）。
所以，“反幻觉”的核心，就是逼它选择第一条路，或者给它提供必须遵守的“证据”。
二、第一招：必须带引用（Citation）
这是 RAG（知识库问答）场景的黄金法则。
告诉 AI：“你说的每一句话，都必须标注来源。如果来源里没有，就别说。”
Prompt 模板：
# Constraint Answer the user's question using ONLY the provided context. - Every statement must be followed by a citation, e.g., "The server IP is 10.0.0.1 [Doc A]". - If the answer is not in the context, say "I don't know". **Do NOT make up information.**效果：
- 用户：“服务器密码是多少？”
- AI（文档里没写）：
I don't know.（而不是编一个123456）。
三、第二招：让它写代码验证自己（Code Verification）
对于数学题、逻辑题或数据查询，人脑容易错，但 Python 不会错。
让 AI先写代码算一遍，再回答。
场景：用户问“12345 的平方根是多少？”
- 普通 AI：
111.11（它可能是背的，或者是猜的，可能是错的）。 - 反幻觉 AI：
- 写 Python 代码：
import math; print(math.sqrt(12345)) - 运行代码，得到
111.108055... - 回答：“是 111.108。”
- 写 Python 代码：
Prompt 模板：
# Constraint Before answering any math or logic question, you MUST: 1. Write a Python script to calculate the result. 2. Run the script. 3. Use the script's output as your final answer.四、第三招：学会拒答（Refusal）
有时候，不仅要防瞎编，还要防“越权”。
如果用户问了不该问的，或者 AI 没把握的，必须果断拒绝。
Prompt 模板：
# Safety Policy - If the user asks for personal information (PII), refuse politely. - If the user asks for dangerous commands (e.g., `rm -rf`), refuse firmly. - If you are less than 80% confident in your answer, start with "I am not entirely sure, but..."五、实战：构建一个“不说谎”的客服
假设你要做一个 AI 客服，回答公司产品问题。
System Prompt：
You are a helpful customer support agent for [Company X]. # Knowledge Base [这里塞入你的产品文档，比如：退款政策是 7 天无理由，超过 7 天不退。] # Anti-Hallucination Rules 1. **Strict Grounding**: Answer ONLY based on the Knowledge Base. 2. **No Extrapolation**: Do not assume features that are not listed. 3. **Citation**: Reference the specific section (e.g., [Refund Policy]). 4. **Fallback**: If the user asks something not in the docs, say: "I cannot find this information in my manual. Please contact human support at support@example.com."测试：
- 用户：“你们支持 30 天退款吗？”
- AI：“不支持。根据 [Refund Policy]，我们只支持 7 天无理由退款。”（正确）
- 用户：“你们老板是谁？”
- AI：“I cannot find this information in my manual…” （正确，不瞎编）
总结：反幻觉提示片段合集（Snippet）
请把这几段话存到你的snippets里，需要时粘贴。
| 场景 | Prompt 片段 |
|---|---|
| 文档问答 | Answer ONLY based on the context. If not found, say "I don't know". |
| 数学/逻辑 | Write and run Python code to verify your answer. |
| 代码生成 | Do not use non-existent libraries. If unsure, check if the library exists. |
| 通用防御 | Do not make up facts. If you are speculating, state it clearly. |
下一步：我们已经掌握了 Prompt 的写法。但 Prompt 也是代码，也需要版本管理、测试和迭代。下一章我们将学习Prompt 工程化——如何像管理代码一样管理你的 Prompt。