AI 回答问题前会翻资料，这套动作里有个关键概念叫检索窗口：从外部找回的资料，放在提示词的哪个位置、占多大篇幅、和问题的相对距离怎么排，都由它决定。资料找得再准，摆放的位置不对，模型也可能视而不见。
找回的资料先放哪
检索窗口的核心是位置与篇幅。资料通常被拼进提示词里，放在用户问题之前，作为背景材料；篇幅上要控制总量，不能把上下文窗口塞满，否则既挤压对话本身的空间，也可能触发对话截断把历史裁掉。位置也有讲究，放得太靠前，距离问题太远，容易被忽略；放得太靠后，又可能被当成问题的一部分。
另一个维度是筛选强度。找回十段资料，全塞进去还是只挑最相关的三段？塞太多会稀释注意力，挑太狠可能漏掉关键信息。这个取舍没有标准答案，取决于资料质量和问题的复杂度，实践中通常留出冗余，宁多勿漏。
| 调节维度 | 常见做法 | 摆错的代价 |
|---|---|---|
| 位置 | 放在问题之前，距离问题不远处 | 太靠前被忽略，太靠后当成问题 |
| 篇幅 | 控制总量，给对话留出空间 | 塞满会挤压对话，还可能触发截断 |
| 筛选强度 | 留出冗余，宁多勿漏 | 塞太多稀释注意力，挑太狠漏关键 |
| 排序 | 关键词相关的往前，背景定义往后 | 顺序一变，答案质量跟着变 |
像考试允许带一页纸
理解检索窗口，可以类比考试允许带的一页纸。老师规定了纸张大小，你把认为会考的知识点浓缩上去，排版讲究重点位置：常考的放显眼处，易混的放旁边做对照。考试时能不能快速找到，全看这页纸的组织方式。检索窗口就是 AI 的一页纸，资料怎么摆，直接决定它答题时翻不翻得到。
一页纸类比还解释了为什么资料不是越多越好。整页纸抄满公式，真正要用的那条反而要找半天；资料塞满窗口，模型也面临同样的困境。留白，也是排版的一部分。
一页纸类比的两处局限
这个类比有两处局限。其一，一页纸的内容是你精心排版的，检索窗口里的资料是系统自动拼接的，排序逻辑未必符合“重点显眼”的原则，位置好坏取决于实现质量。其二，考试时你会主动翻阅，模型对窗口内所有内容一视同仁，没有“翻到哪页”的动作，注意力分布是均匀而模糊的。实践中的排序经验是：和问题关键词直接相关的段落往前放，背景性、定义性的内容往后放。顺序换一换，模型的注意力分配就会变，答案质量跟着变，值得花时间调试，顺序这个变量，零成本却常被忽略。
还有一处要分清：检索窗口只管“放进来之后”，不管“怎么找回来”。找回靠的是多路召回和重排，那是前序环节；窗口环节的任务，是把已经挑好的资料摆到位。另一种解法是把关键背景存进外部记忆，用时再取，而不是全靠这一次的窗口。
放错位置的代价
资料摆得不好，典型表现是“资料里明明有，AI 却说没有”。这不是模型撒谎，是那段资料在窗口里被淹没了：位置太靠边、篇幅被挤压、和问题关键词离得太远。遇到这种情况，换一种问法、把关键背景在提问里复述一遍，往往立刻见效，这比单纯抱怨产品不准要实际得多。
DeepSeek 和 Kimi 在长文档问答上的表现常被对比，背后很大一部分差距就在检索窗口的组织策略。带走一个判断：资料找回只是上半场，摆进窗口是下半场，两半都做好，AI 才真的“看过”资料。
速查表：检索窗口=资料放进提示词的位置与篇幅控制；类比考试一页纸；局限在自动拼接无重点、注意力均匀；表现是资料在眼前却被说没有。
关于检索窗口，问得最多的三个
- 资料放得越靠前越好吗？不是，太靠前会远离问题，通常放在问题之前不远处最稳妥。
- 为什么资料全放进去反而答不好？窗口被塞满后注意力被稀释，关键信息容易被淹没。
- 窗口大小是固定的吗？由模型的上下文上限决定，还要给对话本身留出空间。
