LLM幻觉真相：它根本不会撒谎，因为它从不知道什么是真

「撒谎」的前提是知道真相。而大语言模型从诞生的那一刻起，就不具备「判断真假」的能力。

一、核心原理：概率补全机 vs 数据库

1.1 你不是在查资料，你是在看AI做梦

大多数人理解LLM的方式是错的。

你以为ChatGPT是一个超级智能的搜索引擎，问它问题就是在查一个庞大的知识数据库。错。

LLM本质上是一个概率补全机。它的全部工作就是：给定前面的文本，预测下一个最可能出现的token是什么。

输入: "巴黎是法国的____" 模型输出概率分布: - "首都" → 87.3% - "城市" → 8.1% - "最大" → 2.4% - ...

注意：模型输出的不是「巴黎是法国的首都」这个事实，而是「在给定训练数据分布下，'首都’这个词出现在这里的概率是87.3%」。

事实和概率是两个完全不同的东西。

1.2 为什么「知道真相」是不可能的

要判断一句话的真假，你需要：

1. 理解这句话的语义
2. 将其映射到外部世界的某个事实状态
3. 验证该状态是否成立

LLM只做了第1步。它的全部能力停留在「生成符合统计规律的文本」这个层面。

它从来没有「见过」巴黎，从来没有「理解」过什么是首都。