跳到主内容

长提示的「中间遗忘」怎么补救?

2026-10-18 发布 来源:我告诉你AI导航 阅读

用 Kimi 让它读一份几十页的 PDF 并按开头列的要点整理,常见结果是:开头的要求执行得很到位,结尾的要求也记得,唯独中段那几条被悄悄跳过。这就是长提示里的中间遗忘,本文从注意力分布讲起,把补救手段一条条列清楚。

用 Kimi 让它读一份几十页的 PDF 并按开头列的要点整理,常见结果是:开头的要求执行得很到位,结尾的要求也记得,唯独中段那几条被悄悄跳过。这就是长提示里的中间遗忘,本文从注意力分布讲起,把补救手段一条条列清楚。

中段为什么最容易被略读

模型读长文本时,注意力并非均匀铺开,而是近似 U 形:开头的内容承担定调任务,权重天然高;结尾的内容离生成位置最近,也容易被照顾;夹在中间的部分与两头的相似度都低,分到的权重最少。提示越长,中段被略读得越明显。

U 形注意力是怎么回事

可以把它想成读一份很长的会议纪要:你记得开场结论和最后一页的待办,中间几页的过程细节印象模糊。模型同样如此,中段信息既没有开场的定调优势,也没有结尾的距离优势,一旦中段还混着大量与任务无关的背景材料,关键要求就更难被捞出来。实际写作里,这份效应意味着位置本身就是一种资源,要用在关键要求上。

把关键内容挪到哪里更稳

  • 开头定调:把最核心的要求放在提示最前面,先立规矩。
  • 结尾收束:把硬性要求压在末尾,借距离优势再刷一遍存在感。
  • 中段减负:把与任务无关的长材料挪走或压缩,别让它们稀释关键句。

三个位置分到的注意力不同,该放什么也就不同。

位置分到的注意力该放什么具体动作
开头承担定调任务,权重天然高最核心的要求放在提示最前面,先立规矩
中段与两头相似度都低,分到的权重最少只留必须的材料把无关长材料挪走或压缩
结尾离生成位置最近,容易被照顾硬性要求压在末尾,借距离优势再刷一遍

分块与重申的补救写法

超长提示可以拆成总说明加分块任务:开头给一段全局要求,每个分块开头再用一行复述与本块相关的要求。实测在豆包和秘塔AI搜索的长文档场景里,这种块内重申能明显减少漏项。相关机制里,指令与数据同源的问题会让中段更脆弱,见防注入为什么难?指令与数据同源;多轮对话里的淡化与它互为表里,参考提示词的指令衰减是怎么回事?多轮之后。

另外两条延伸也一并看:温度调高会放大中段的不稳定,见提示词和温度是怎么配合的?每一步都讲透;示例中段出错时模型也会跟着学,见示例里的错误会被学会吗?内部门道在这。

分块重申之外,还有两个帮手。一是给每块编号并命名,比如「第 2 块:字段抽取规则」,模型引用时能点名定位,中段要求被指认的概率大幅上升;二是把中段最容易漏的要求改写成任务句,让它跟着当前指令一起出现,而不是静静躺在材料堆里。实测里,同一份四十页的整理任务,加上块命名后漏项从六七处降到一两处。块与块之间用一致的分隔样式,模型切分时不易错位,重申也就落在了正确的块头。如果材料必须完整保留,可以折进附录块并明确「此块无需执行,仅供引用」,任务块与材料块分开后,U 形效应对任务块的伤害会小很多。最后提醒:重申要短,一行以内,长篇重申会变成新的噪音源,反而稀释真正的重点。

中段补救对照表

  • 要求被跳过?——先查它是不是躺在正中间。
  • 材料很长?——压缩或挪走,给关键句腾位置。
  • 要求分散?——块内重申加结尾收束,两道工序叠着做。

别跟 U 形较劲,顺着它摆位置才是省力的做法。

一句话收拢:位置、分块、重申,三板斧各管一层,漏哪补哪。

换个问法再问中间遗忘三句

  • 把重要内容全部堆到开头就稳了吗?:开头确实权重高,但堆太多会互相稀释,开头定调、结尾收束的组合更可靠。
  • 中间遗忘和指令衰减是一回事吗?:两者都源于注意力加权,前者是空间上的中段劣势,后者是轮次上的距离劣势。
  • 压缩提示到很短还需要管中段吗?:提示短到一屏以内,U 形效应基本可以忽略。

记住一个动作:交任务之前,把最怕被漏掉的那条要求挪出中段。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]