随手编一个不存在的人名，让 AI 写份简历，它十秒内能交出一份带学历、带项目、带离职原因的完整版本。多数人第一次遇到会觉得它在骗人，其实它只是把「写一份简历」这个要求完成得很到位，缺的那部分信息由它自己填了。围绕 AI 的许多失望，来源都是这类期待错位。下面这八条，是日常被问得比较多的。
八个说法，各有各的错法
把它们并排放，错的地方集中在三类：对知识范围的想象、对记忆机制的想象、对输出可靠性的想象。
| 常见说法 | 实际的机制 | 校准之后的理解 |
|---|---|---|
| 它什么都知道 | 知识来自训练数据，有截止日期，不含内部资料 | 越靠近当下、越靠近你所在组织的问题，越容易得到编造的答案 |
| 它会自己学习 | 权重在训练完成后固定，对话不改变模型 | 纠正一次不会留下痕迹，除非产品另做了记忆功能 |
| 问得越长答得越好 | 一段话塞五个问题，注意力被分散 | 一次问一件事，答案的完整度明显不同 |
| 它说的都是真的 | 输出是概率上最像答案的文字 | 数字、引用、条款必须回原始来源核对 |
| 它会取代大部分岗位 | 被替代的是任务，不是岗位整体 | 初稿、整理、改写能交出去，判断和担责交不出去 |
| 免费的就够用 | 免费版通常限次数、限速度、限模型能力 | 偶尔用够，天天用会卡在额度上 |
| 它写的一眼能看出来 | 输出质量主要由输入决定 | 给出背景、素材、样例之后，痕迹会少很多 |
| 用得越久它越懂我 | 多数工具不跨会话保留上下文 | 变好用的是你的提问方式，模型本身没变 |
最右一列是可以直接拿去用的部分，中间一列解释原因。知道原因，遇到表里没写的新情况时才能自己推。
知识有截止日期，这一条最伤
大模型的「知道」，指的是训练数据里出现过。数据收集有时间点，之后发生的事它没见过；公司内部制度、客户名单、未公开的项目进度，从来没有进过训练集。遇到这类问题，它有两种反应：说不知道，或者给一个格式正确、内容虚构的答案。后一种更难防，读起来和真答案没有区别。
幻觉为什么总以自信的语气出现，原因在生成方式：模型逐字预测下一个词，它优化的是「像不像答案」，不是「对不对」。要事实，就得给它材料，或者让它说出信息来源，再由你去核。
它不记事，记住的是你写下的要求
对话结束后，这次交流对模型没有任何影响。昨天纠正过的口径、约定好的格式，今天开新窗口它一概不知。有些产品做了跨会话记忆，能存下你的偏好和常用背景，那是产品层加的功能，模型本身没有被改写。
想让输出稳定，靠的是把要求写成可复用的提示词，或者把背景资料整理成一段可粘贴的开头。真要让它长期掌握某个领域的写法，得走微调那条路，微调和提示词各自解决什么问题值得分清：前者改的是模型的行为倾向，后者改的只是这一次的输入。
问得长，不等于问得清
一段话里塞进五个诉求，模型往往只把最显眼的那个答完整，剩下的用一两句带过。它要在有限的输出里分配篇幅，而判断「哪个更重要」的依据和你不一样。
拆开问，一次一件事，每次把背景交代清楚，总字数可能更多，得到的结果却更可用。长文档也有类似的上限，上下文窗口装不下时会发生什么：超出的部分被截掉，模型不会提醒你它没读到结尾。这个行为在长合同、长代码、长对话里都会出现，只是表现得不明显。
仍然超出它能力的那几件事
担责是第一条。它可以写一份对外说明，签字的仍然是人；它可以给出一份方案，判断方案能不能落地的仍然是人。第二条是事实的最终确认，它给不出「这条一定为真」的承诺，任何需要负责的数字都只能回到原始出处。
第三条是跨步骤的长任务。让它做一件五步的事，前三步通常没问题，第四步开始容易丢掉前面的约束，尤其当约束藏在很长的上下文中间时。第四条是对人的判断：这场谈判对方在想什么、这个客户为什么犹豫，它只能基于你描述的内容推测，看不到你没说出口的部分。
还有一条容易被忽略：它不知道自己不知道。你问一个它完全没概念的领域，它给出的答案和你问一个熟悉领域时的语气一样笃定，区分这两者只能靠你自己对该领域的了解。
预期校准之后，剩下的是分工
把工作拆成「生成」和「判断」两段，前者可以大量交给它，后者留在人手里，这套分工在多数岗位上都能跑通。写作、整理、翻译、改写、列提纲属于生成；定标准、做取舍、承担后果属于判断。
要不要付费，标准也很朴素：算一下每月花在它身上的时间，再算这些时间值多少钱。一周用两三次，免费额度够；每天要用十几轮，额度和速度会成为主要摩擦，这时候付费买的是不被打断。
速查：八条里最该记住的四条
- 知识有截止日期，越新越具体的问题越容易得到编造的答案
- 对话不改变模型，稳定输出靠提示词和素材，不靠反复纠正
- 一次问一件事，超出上下文的部分会被截断且不作提示
- 它能生成，不能担责；判断和签字留在人这边
