上下文长度指模型一次能「看」的内容上限,包括你输入的全部文字、上传的文件内容和此前的对话记录,计量单位是 token,128K 即约十二万八千个 token。它决定长文档能不能一次读完、长对话会不会被截断,是选大模型服务时最该看的硬指标之一,和价格、响应速度放在一起权衡才有意义。
128K 到底能装多少内容
token 是模型处理文字的最小单位,一个汉字可能对应一个或多个 token,英文单词通常按词根切分,所以同样标 128K 的模型,能装下的中文数量并不相同。粗略估算,不少模型的一个汉字约对应一到两个 token,128K 大致能装下几万字到十几万字的中文,具体换算以各家官方说明为准。换个直观的比方:假设一份学年论文约三万字,一部中篇小说约十万字,128K 的窗口有机会把它们整体放进一次对话。
| 材料 | 大致篇幅 | 折算 token | 128K 能否一次装下 |
|---|---|---|---|
| 一份学年论文 | 约 3 万字 | 约 3 万至 6 万 | 能,还留得出追问空间 |
| 一部中篇小说 | 约 10 万字 | 约 10 万至 20 万 | 接近上限,可能超出 |
| 十几万字的长材料 | 十几万字 | 可能超过 12.8 万 | 不能,需要分段处理 |
窗口装下的内容怎么被使用
装得下不等于记得牢。模型对上下文的利用并不均匀:开头和结尾的内容通常被照顾得更充分,中段细节有时会被忽略,材料越长这个问题越明显。所以把关键约束写在开头或结尾、在提问里点名引用材料的哪一部分,都会让回答更贴合。窗口长度是容量,怎么摆放信息才是使用技巧。另外,窗口里不相关的闲聊也会稀释模型的注意力,长任务尽量让对话保持干净,阶段性结论请模型复述确认。
超出长度的典型表现
一旦内容超出窗口,多数服务会截断最早的部分,表现为模型「忘了」你前面交代过的要求;有的服务则直接提示内容过长、无法继续。还有一种容易被误解的情况:明明没超长,模型却答非所问,这往往不是窗口不够,而是信息埋得太深。遇到回答变差,先检查这两点,再怀疑模型能力。
长文本任务的分段处理
材料特别长时,与其硬塞进一次对话,不如分段处理更稳。常见做法是先让模型按章节提炼要点,把要点汇总后再做整体分析;或者第一次对话只处理前半部分,得到结构化笔记后另开对话处理后半部分。用 Kimi 这类以长文本见长的工具时,也可以先问它材料的目录结构,确认它实际读到了什么,再决定怎么提问。分段时给每一段起个简短的小标题,追问时直接点名标题,模型定位材料会更快。
把长窗口当作工作台来管理
把窗口当成一块有限的工作台,用起来会顺手很多。开场就把任务目标、关键约束和材料范围交代清楚,相当于在台面上摆好工具;中间讨论偏离主题时,及时用一句话拉回,并重申还没完成的任务;阶段性结论让模型自己复述一遍,确认它记住的确实是经过你确认的版本。这几个习惯不需要任何工具技巧,却能让同样的窗口长度产出更稳定的结果,也比单纯追求更大的窗口划算得多。
延伸阅读:上下文窗口为什么记不住、Token 是怎么计费的、长文本多长才算够用。
长对话不跑偏的四条习惯
- 开场交代目标、约束与材料范围
- 跑偏时一句话拉回并重申任务
- 阶段结论让模型复述确认
- 无关闲聊另开一个对话
最容易被跳过的是复述确认,它恰好能暴露模型记错的地方。
上下文长度的三个常见疑问
- 对话轮数多了,前面的内容会被挤掉吗?:会。每一轮对话都占用窗口,累积超长后最早的内容会被截断,重要约束可以在关键节点重申一遍。
- 上传的文件也占用上下文长度吗?:通常占用。文件内容会被转成模型可读的形式进入窗口,文件越大,留给提问和回答的空间就越小。
- 上下文越长,回答就越慢越贵吗?:一般是。窗口里内容越多,计算量越大,响应时间与资源消耗随之上升,这也是没必要一味追求超长窗口的原因。


