让它找三篇领域文献，它给得又快又专业：标题、作者、期刊、年份齐全。挨个去查，一篇都不存在。这就是 AI 幻觉——大模型一本正经地编造事实。这篇文章从机制层面讲清它为什么会发生、哪些问题最容易触发、为什么无法根除，以及使用者能架设的防线。
机制上到底发生了什么
先看流程。进来：你的问题被切成词元（token）送入模型。发生：模型逐个预测"下一个最可能出现的词"，每一步都从语言规律里挑一个高概率续写。出去：一段流畅、语法通顺、读起来自洽的文本。整条链路里没有一个"事实核查模块"兜底——训练目标是拟合语料的语言规律，追求"像真的"，机制上并不保证"是真的"。
这解释了一个经典观察：编造的文献为什么格式工整？因为文献的格式（作者、年份、期刊卷期）是它从海量真实文献里学到的统计规律，格式照着规律走，内容是按"听起来像这么一篇文献"续写出来的。它不判断真假，只负责续得像。
还有一点反直觉：它的笃定语气不代表高置信度。语气的果断来自语料里权威内容的行文风格，和模型内部对事实的把握程度没有对应关系。所以"听起来很确定"这个信号，在判断真假上没有参考价值，甚至反向。
类比好用，但会失效
常用的类比：一个永远不交白卷的考生，不会也必须写满，写得还头头是道。这个类比能建立直觉，但有失效点：模型并非"知道答案却装会"，它的内部并没有"知道/不知道"的开关，低频事实下它就是不知道，却依然流畅续写。所以别把幻觉理解成撒谎——大部分情况是无知和流畅的组合，带着防骗的思路去防，反而用错力气，该建立的是核验习惯。
哪类问题最容易翻车
| 问题类型 | 高发原因 | 使用对策 |
|---|---|---|
| 具体数字与年份 | 低频事实，语料中难形成稳定规律 | 一律去权威来源核对，不直接引用 |
| 文献、法条、标准编号 | 格式规律强、内容核验弱，编得最像 | 要出处，并逐条验证出处真实存在 |
| 冷门小众知识 | 训练覆盖稀薄，猜测成分大 | 换两个不同模型分别问，对比差异 |
| 多步精确计算 | 逐词预测不擅长精确运算 | 让它列步骤，计算用计算器或代码复算 |
为什么没法根除
只要模型还在按概率续写，低频事实就必然存在出错概率，这是机制的代价，版本再新也压不到零。缓解手段是有的：给模型接外部检索，先查资料再回答，答案锚定在检索结果上，幻觉率能明显下降；训练时强化"不知道就直说"的表达，也能减少硬编。这也是为什么各家产品会在文档里写明"输出可能不准确"，把核验责任写进条款。企业采购时可以看服务商的服务等级承诺，参考SLA 服务等级承诺怎么读——目前行业惯例只承诺可用性，不承诺事实准确性，幻觉风险留在使用方这一侧。
使用者能架的四道防线
第一道：凡涉及事实必核对，数据、文献、条文去权威来源验证。第二道：让它给出处，再验证出处本身存在，给不出的结论默认是推的。第三道：交叉验证，同一个重要结论用两三个不同模型分别问，答案明显分叉就人工裁决。第四道：改问法——明确要求"不确定就直说，别猜"，并把多步任务拆开、盯住中间步骤，这套思路与Agent 可观测性里盯执行过程是一致的。想系统性测量一个模型的可靠程度，可以看Agent 评测的考卷设计。
关于幻觉的三个追问
- 问：换新版本模型能消除幻觉吗？答：代际更新会压低发生率，但机制不变就不会归零，核对习惯不能省。
- 问：同一个问题为什么有时对有时错？答：生成带随机性，同样的提示词也会采样出不同续写，重要结论多问几遍看是否稳定。
- 问：它把数字算错了也算幻觉吗？答：习惯上分开说——编造事实是幻觉，运算出错算失误，但防法相同：复算一遍。
AI 幻觉速查
- 机制：逐词续写，追求"像真的"，不保证"是真的"
- 高发区：数字年份、文献法条、冷门知识、精确计算
- 四道防线：核对事实、验证出处、交叉验证、改问法
- 外部检索能明显降概率，但压不到零
