跳到主内容

上下文给多少才够:一个可操作的判断方法

2026-10-08 发布 来源:我告诉你AI导航 阅读

「给 AI 的资料越多,答案越准」是一个流传很广的误区,实际经常相反:塞十份文档进去,它反而抓不住重点。上下文的正确用法是当预算花——相关度高的给足,相关度低的删掉,超长的拆着给。这篇文章给一个可操作的判断方法。

「给 AI 的资料越多,答案越准」是一个流传很广的误区,实际经常相反:塞十份文档进去,它反而抓不住重点。上下文的正确用法是当预算花——相关度高的给足,相关度低的删掉,超长的拆着给。这篇文章给一个可操作的判断方法。

注意力是有限资源

模型的注意力分配不均匀。材料越长,单个信息分到的注意力越少,一份 20 页文档里藏着的关键条款,整篇丢进去,被忽略的概率很高。中段内容尤其容易被跳过,这是长上下文的普遍规律,材料越长表现越明显。

还有一个副作用:材料越长,模型越倾向于概括而不是引用细节。你问一个具体数值,它可能回你一个范围;你问某条约定,它可能给你一段含糊的转述。材料给得越多,答案反而越飘。

按信噪比决定给多少

判断方法一句话:问自己,这份材料里跟我的问题相关的部分占多少?占比高,直接给全文;占比低,先把相关部分挑出来再给。这条判断比任何「给多少字合适」的经验公式都可靠,因为信噪比才是影响答案质量的主变量。

材料情况怎么给判断标准
整篇围绕问题给全文,允许自由引用相关内容占比在八成以上
只有局部相关摘出相关段落再给一眼能圈出相关部分在哪几段
多份材料交叉先逐份摘要,再合并提问需要跨文档比对结论
极长或超出窗口分章节提炼要点后追问中段内容经常被忽略时

挑相关段落不需要精确到句,按章节、按小节圈定范围就够了。宁可比精确范围多给一段,也不要漏掉关键上下文——孤立片段缺了周围语境,同样会让它答偏。圈定后把边界说清楚:「以下是第 3 节相关内容,其他章节不涉及」,这一句能进一步压低串味概率。

超长材料的三步处理

第一步,先让它做摘要:按章节分批丢进去,逐段提炼要点。第二步,针对要点提问:拿着摘要问具体问题,需要细节时让它回到对应章节取。第三步,核对原文:结论要用于正式场合时,回原文确认一次,尤其是数字、日期、条款这类硬信息。

三步的好处是把「一次大海捞针」换成「按图索骥」,每一步的注意力都集中在一小块材料上,命中率比整篇硬塞高得多。

长对话的上下文维护

聊到几十轮,前面的要求会被稀释,模型开始丢掉早先的约束。两个办法:一是把关键约束重新贴一遍——放在消息结尾比只在开头说更有效;二是把已确认的结论整理成一段「当前状态」,开一个新对话带着它继续,相当于手动迁移上下文。

分批给材料时还有一个细节:每次都要把前面的结论带上,否则它每轮只看到本轮内容,之前聊过的等于白聊。状态段落有个现成模板:已完成什么、已确认什么、当前要做什么、不要做什么,四行以内,每次新对话开头贴一遍即可。

失效边界:上下文救不回的两种情况

第一种,窗口装不下:材料体量超过模型窗口上限,再好的方法也要靠外部分段处理。窗口大小和模型规格挂钩,不同规格、不同档位的产品上限差很多,模型规格层面的差异可看:什么是模型参数量?7B 和 70B 差在哪里,版本档位差异可看:免费版和付费版大模型差在哪。第二种,事实本身不在材料里:上下文只能帮它「用好你给的」,不能帮它「变出没有的」,材料里没有的事实,给再多上下文也问不出来。

另外,材料长度直接影响响应速度,输入和输出都以 token 计,长材料意味着更久的等待,等待时长的构成可看:什么是生成速度?每秒输出多少 token 决定等待时间。

上下文速查

  • 先问信噪比:相关部分占多少,再决定给多少
  • 超长材料三步:摘要、追问、回原文核对
  • 长对话:重贴关键约束,或带状态开新对话
  • 上下文是预算,按需分配

三个延伸追问

窗口标称很大,能装下一整本书,是不是就不用节俭了?装得下和读得好是两回事。窗口上限只保证放得进去,注意力质量随材料变长而下降的规律不会消失,信噪比判断照样适用。

让 AI 自己去材料里找重点,行不行?可以作为第一轮:让它先列出与问题相关的段落编号,你再只把那些段落发回去。多花一个来回,换来的是后续每轮都在小而准的范围内作答。

图片和表格这类非文字内容,怎么算上下文?同样占预算,解析后的占位往往比直觉大。表格优先转成文字要点再给,关键数字直接写进提示词,比整页截图丢进去有效得多。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]