让 AI 写一段产品介绍，两分钟出三个版本，措辞都能用；让它算一个含税报价，小数点后两位错了两次，第二次还错在同一个地方。同一个模型，隔了十分钟，表现像两台机器。
这两件事的差别，是「聪明」和「可靠」的差别。把它们分开看，哪些活可以放心交出去、哪些活交出去之后必须盯着，就有了判断依据。
两种任务，两种失败方式
开放任务的失败是「不好」，唯一答案任务的失败是「不对」。前者你能一眼看出好坏，重来一次就行；后者看起来和正确答案一模一样，直到有人拿计算器按了一遍。
麻烦在于，模型对这两类任务的输出方式没有区别。它不会在不确定的时候降低语气，也不会在算错的时候加一句「我可能算错了」。输出永远是流畅的、完整的、语气一致的。
五个维度，看它什么时候靠得住
| 维度 | 表现 | 为什么会分家 |
|---|---|---|
| 开放生成（文案、命名、改写） | 稳定，多版本都能用 | 目标是「像」，采样带来的多样性反而是加分 |
| 唯一答案（算术、日期、编号） | 时对时错，错得和答对一样顺 | 逐 token 采样，没有「必须算对」的约束 |
| 长程一致（多步流程、长文） | 前几步对，越往后越漂 | 每步重读上下文，前一步的偏差被继承 |
| 事实溯源（出处、数字、人名） | 编得像真的，细节齐全 | 训练目标是接续合理，不校验来源 |
| 跨会话记忆（上次说到哪） | 每次从零开始 | 上下文之外没有持久状态 |
从上往下，可靠性递减，原因却只有一个：越往下，任务对「精确」的要求越高，而模型擅长的恰恰是「像」。它的训练目标是让下一个词接得合理，不是让结果对得上现实。
它优化的是「像」，不是「对」
生成过程是逐个 token 采样。每一步算的是「在这个位置哪个词最可能出现」，不是「哪个答案符合事实」。句子通顺和答案正确是两套标准，前者做到了，后者没有承诺。
算术出错的机制更具体。数字在进入模型前会被切成 token 片段，「2024」可能是一个片段，也可能是两个，位数一多就难对齐。它没有内置计算器，靠的是训练时见过的运算模式，三位数以上的加减乘除，出错率明显上升。大语言模型的基本原理决定了这一点，不是版本问题，换更大的模型也只是把出错率压低。
日期推算是另一类。问它某个日期是星期几，它靠模式匹配和局部推理，不查日历。跨月、跨年、闰年这几种情况最容易错。
加工具能补一部分，补不了全部
接上计算器、代码执行、检索，可靠性会明显提升，因为这些操作把「算」和「查」交给了确定的程序。代价是多了一层可能出错的地方：工具调用的参数会传错，单位会漏，检索会取到不相关的段落。
所以可靠性是系统属性，由模型、工具、校验、人工四段拼起来，任何一段松了，整体就松。智能体把这几段串成流程，串得越长，中间出错的机会越多，这也是多步任务比单步任务更容易翻车的原因。
一个常被忽略的点：工具返回结果之后，模型还要把它转述成人话。转述这一步又回到了「像」的逻辑，数字被改写、单位被省略、条件被丢掉，都可能发生在最后一环。
三个问题，决定要不要放手
答案唯一吗。唯一，就按可靠类处理，必须复核。文案、命名、改写这类没有标准答案的，可以放心交出去。
错了代价多大。代价高，一律人工过一遍，不管它看起来多有把握。代价低，比如一段内部草稿的措辞，错了改一下就行。
能不能自动验算。能，就让它先做，再用程序或公式验一遍，比人逐条核对快得多。不能验算又代价高的任务，就别整个交出去。
语气笃定和答对没有关系
模型在生成时不给自己的答案打置信度。分布平坦的时候，它照样输出流畅的句子；完全编造的内容，语气和背下来的事实一样稳。AI 幻觉难以识别，原因就在这里——没有犹豫、没有停顿、没有「我不确定」的标记。
所以「它说得很肯定」只能当成需要核对的信号，不能当成可信度的依据。反过来，它说「我不确定」也不代表真的错了，那只是训练里学到的表达习惯。
复核也有成本。错误代价低于复核成本时，逐条核对不划算，合理的选择是接受一定错误率，把复核放在代价最高的那几处。这是取舍，没有通用答案。
速查：把任务分到两边
- 答案唯一、错了要返工的，一律人工复核
- 没有标准答案、看的是可用性的，放心交给它
- 能自动验算的，让它先做再验，比人核快
- 语气笃定不算证据，只算提醒你去核对的信号
- 复核成本高于错误代价时，把力气放在关键那几处
