什么是幻觉检测？怎么让 AI 少说错话

大模型有时会「编」内容：它输出的句子语法正确、逻辑自洽、语气笃定，查证之后却找不到任何依据。这个现象叫「幻觉」，幻觉检测就是识别输出里那些「看起来对、实际没依据」的部分。它要回答的核心问题是：这句话有出处吗，还是模型顺着语言模式编出来的。把这件事做扎实，是让 AI 少说错话的关键。

幻觉不是偶发，是生成方式的副产物

要理解幻觉检测，先要承认一个前提：幻觉是生成式模型的内在特性，很难完全消除。模型训练的目标是「预测下一个词」，它并不天然以「陈述事实」为直接目标。模型擅长生成流畅的文本，却并不天然携带一个「这句话是否属实」的判断开关。所以幻觉不是某款产品独有的 bug，而是这类技术共同的边界。

为什么「看起来对」最难查

幻觉最棘手的地方在于它的表象和真话几乎一样。编造的内容往往语法正确、逻辑自洽、语气笃定，从文本表面看不出破绽。要判断真假，需要文本之外的外部依据，靠「读起来顺不顺」完全没用。这带来一个直接后果：人和模型都容易被流畅度带偏，把「说得顺」误当成「说得对」。这也解释了为什么不少「一眼假」的错误能长期流传：读者先被流畅说服，再去找依据时，已经带着倾向。

三层检测思路

常见的检测做法可以分三层，下面这张表把它们对应的局限也一并列出。

这三层思路层层加码：先要出处，再让模型自查，最后换独立渠道比对。单独用一层都容易漏，叠加起来命中率更高。

检索比对与 RAG 的关系

比「让模型自己交代」更可靠的做法，是引入外部资料做比对：先用检索找到相关文档，再让模型只依据这些文档回答。这正是基于给定资料回答和 RAG 的思路——用检索到的内容给模型的输出「上锚点」。有了锚点，幻觉出现的概率会下降，因为答案被限制在可见资料范围内，模型凭空发挥的空间变小。它顺带解决的，正是「只问来源但来源不可信」的问题。这一步的基础，是先让模型把每句话的出处标出来，也就是幻觉溯源要干的事。需要提醒的是，RAG 只能把答案圈在给定资料里，资料本身错了，模型依然会跟着错，所以资料的权威性比「有没有资料」更关键。

自动检测为什么不可靠

必须说清它的边界：目前没有一种自动检测能彻底拦住幻觉。模型会编造来源，给出的链接和引用可能是假的；让它自查，它可能坚持自己的错误；不同任务的标准也不同，创意写作里的「编」是正常发挥，事实问答里的「编」才是问题。所以幻觉检测这件事，落到普通人手里，仍需要人工核对的最后一公里。换句话说，自动检测的定位是「筛掉明显可疑的部分」，把剩下的交给人做终审。

普通人可用的核查清单

把上面这些方法收敛成可执行的动作，就是下面这份清单。核心原则只有一条：越具体越要核实，数字、日期、人名、引用是幻觉高发区。

四步核查清单

• 要求给来源，并且点开看——只要求不核对等于没做
• 关键结论换一个渠道确认——官方文件、权威媒体、专业人士
• 让它自查答案，问「哪些部分你不确定」
• 拿不准时一次要三个版本，比较分歧点

幻觉检测真正教给我们的，是一种用法：让 AI 帮你找方向、出草稿，事实由你自己核实。因为这项技术无法确保自己不说错话，可靠的用法是把出错控制在「你能发现」的范围内，而非追求「完全不出错」。理解了这一点，AI 就从「替你下结论」的工具，变成「帮你缩小范围」的助手。