「支持超长上下文」这句话，几乎每个 AI 工具都说过。真拿一份两百页的材料去试，差别立刻出来：有的能答出附则里的例外条款，有的只记得开头三页，中间问什么都含糊。宣传里的数字是窗口能装多少，能不能用起来是另一回事。
下面按文档类型拆开，说清各自的难点在哪、用什么问题能测出真假、注意力为什么会随长度衰减，以及什么情况下该把任务拆开做。
窗口装得下，不等于读得进去
上下文窗口指的是模型一次能接收的 token 上限，装进去是硬指标，读进去是软指标。装进去靠工程，读进去靠注意力分配：序列越长，每个位置能分到的关注越少，中间段尤其容易被跳过。
所以「支持 128K」这类说法只说明门开得够宽，不说明屋里每一件东西都被看过。判断一个工具好不好用，得用能暴露这个问题的方式去测，而不是问它「这份文档讲了什么」。
五类文档，难点和测法都不一样
| 文档类型 | 难点 | 怎么测 |
|---|---|---|
| 合同与协议 | 条款互相引用，真正的例外藏在附则里 | 在附则放一条只与正文某条冲突的约定，问它两条如何并存 |
| 年报与财报 | 同一个数散在正文、附注、表格里，口径不同 | 问一个需要跨三处相加才得出的数，看它是否用同一口径 |
| 会议记录与访谈 | 决议埋在中段，说话人交替，指代容易乱 | 在文档六成位置问「谁反对、理由是什么」，看它能否指到人 |
| 技术文档与规范 | 同一术语前后定义不一致，版本混用 | 问后文出现的术语在前文如何定义，看它是否自相矛盾 |
| 多篇材料对照 | 观点冲突，需要指出分歧点在哪 | 让它列出两份材料唯一不一致的地方，而不是分别复述 |
这张表的关键在第三列：问题必须只有读完那一段才答得出，且答案唯一。凡是能靠常识补全的问题都测不出东西，任何长度它都能编出一段像样的概述。
三个台阶：读完、关联、不矛盾
第一层是读完，能定位到某一段的具体信息。第二层是关联，能把第 12 页的定义和第 47 页的用例对上。第三层是不矛盾，改写或总结时前后口径一致。多数工具卡在第二层，第三层几乎没有稳的。
三层对应三种任务。检索式问答只需要第一层；跨章节比对要第二层；长文改写、协议摘要、报告合并要第三层——这也是最容易翻车的地方，因为错误不显眼，读起来照样通顺。
越往后越容易漏，是结构问题
注意力在长序列上的分布不均匀，开头和结尾拿到的权重通常更高，中间段被跳过的概率明显上升。这个现象与模型大小关系不大，换更大的模型能缓解，但不会消失。
实践上的含义很直接：把关键约束放在开头或结尾，中间段落只放支撑材料。先让它复述任务要求再动笔，也比直接下指令稳。若一份材料的关键信息天然长在中间，就别指望它自己找到。
长窗口救不了的四件事
精确出处。它能说「文档提到过这个数」，很少能准确说出在第几页第几段。需要引用的场合，页码得自己核。
等精度注意。窗口再长，每个位置分到的关注也不均等。指望它对两百页里的每一句都同等认真，不现实。
跨文档的事实判断。两份材料冲突时，它能指出冲突，判断哪个对要靠外部信息，它手里没有。
超长文里的风格统一。改写后半部分时，前半部分定的语气、称谓、术语常常漂移，越长越明显。
该拆就拆，两种走法各管一段
分段汇总适合结构清晰的文档：按章节切，每段单独处理，最后合并。代价是段与段之间的关联会丢，合并阶段要专门处理衔接和重复。
检索后作答适合问题明确的场景：先定位相关段落，只把这几段给它。这条路的原理和检索增强生成的做法一致，准确率高，代价是要先把文档切好、索引建好，切分粒度不合适，检索照样会漏。
两条路都指向同一个判断：任务长度超过工具稳定处理的范围时，拆开比硬塞省时间。至于成本，上下文窗口的计费方式决定了塞满一次并不便宜，而token 的切分规则直接决定同一份文档要算多少量。表格多、符号多的文档，往往比同样页数的纯文字贵出一截。
速查：三步测出长文本的真本事
- 在文档中段和结尾各埋一个只有当地能找到答案的问题
- 问一个需要跨两处对照才成立的判断，看它是否关联得上
- 让它先复述任务要求再作答，观察约束是否漂移
- 超过稳定范围就分段或先检索，不要硬塞
