AI 幻觉与可信度：大模型的阿喀琉斯之踵

系列：每日 AI 知识点
期数：第 03 期
主题：AI 幻觉与可信度
难度：⭐⭐（入门）
一句话：AI 会一本正经地"编造"答案。了解幻觉的成因和类型，学会判断什么时候该信任 AI，是安全使用 AI 的必修课。

一、什么是 AI 幻觉？

2023年，美国律师 Steven Schwartz 在一起航空公司诉讼案中，使用 ChatGPT 辅助撰写法庭文件。AI 给他提供了 6 条"判例"，每条都有完整的案号、法院名称、判决日期、详细的判决内容——看起来非常专业可信。

结果，对方律师发现这 6 条判例一条都不存在，全是 AI 凭空捏造的。

Schwartz 被法官传唤，被迫公开道歉，面临吊销执照的处罚。这件事引发了全球法律界对 AI 幻觉的广泛关注。

这就是 AI 幻觉（Hallucination）：AI 以极其自信的语气，生成完全错误甚至凭空捏造的信息。

🧠为什么 AI 会幻觉？
LLM 的本质是"预测下一个最可能出现的词"。它的目标是生成听起来合理的文字序列，而不是保证信息正确。当它不知道答案时，它不会说"我不知道"，而是生成一个"在统计上最像正确答案"的内容。

二、幻觉的 5 种类型

类型一：事实捏造（最危险）

特征：编造不存在的事实、人物、论文、法律条文

案例集锦：

• 上文提到的美国律师案（虚构判例）
• 某记者让 AI 生成参考文献，AI 给出了 20 篇"论文"，其中 12 篇不存在
• 某公司让 AI 写竞品分析，AI 编造了竞品公司的"内部数据"

识别方法：对任何具体引用（论文、案例、数据来源）都要独立核实

类型二：细节错误

特征：大方向正确，但具体数字、时间、名字出错

案例：

用户：GPT-3 是什么时候发布的？ AI：GPT-3 于 2020 年 6 月发布，拥有 1750 亿参数。 （这部分正确） 用户：GPT-4 呢？ AI：GPT-4 于 2023 年 3 月 14 日发布，拥有约 1 万亿参数。 （发布日期正确，但参数量是推测值，实际未公开）

识别方法：对关键数字（版本号、日期、参数量）要查官方文档

类型三：过度自信

特征：不确定的事情也以肯定语气表述

案例：