把一句关键信息埋进几万字长文,大模型还能不能把它找出来?这道考题有个形象的名字——大海捞针测试。Kimi 以长文档阅读见长,纳米AI 也常主打资料检索,这类能力的高下,就是靠捞针一类测试量出来的。
针是怎么埋进去的
经典做法三步:先选定一句放在无关上下文里也成立的话当「针」,比如一句隐蔽的约定或一个特殊数字;再把它插进一篇几万甚至几十万字长文里的指定位置;最后只问一句与那句话相关的问题,看模型答不答得上来。打个比方,像把一粒芝麻埋进一锅粥——喝完一整锅还能不能说出那粒芝麻在哪。类比失效之处:芝麻不改变粥的味道,而埋进去的针会牵动上下文的连贯性,埋得越自然,题出得越好。
长文本为什么会忘事
两个原因叠加:一是窗口限制,模型一次能处理的文字量有上限,超了就装不下;二是注意力稀释,即便装得下,模型对中间位置的细节关注也会减弱,开头结尾记得牢、中段容易滑过去,实测里这个规律反复出现。所以针埋在中段的命中率往往低于两端,这不是玄学,是结构性的规律。窗口数字年年涨,稀释问题却没同步消失,容量大不等于每一处都被照顾到。中段滑过去的实验结果流传很广,各家模型多多少少都有,差别只在幅度。有的测试还会换位置反复埋针,同一位置埋十次取命中率,把偶然因素压掉。读图有个诀窍:看低分区域的形状,成片低分说明结构性缺陷,零星失手多半是题目问题。针埋多深、文档多长、问的什么类型,三个变量一起看,这份成绩单才算读完整。
捞针成绩单怎么读
正规的成绩单会标注三个变量:文档多长、针埋在哪个深度、问了什么类型。只报一个「通过率」的测试参考价值有限。看到百分比时,先找深度分布图——横轴是针的位置、纵轴是命中率,整张图绿多红少才算真稳。抗干扰的另一面,即长文里混入噪音还能不能盯住主线,与鲁棒性考卷相通,见什么是鲁棒性评测?抗干扰能力,别再混淆了。
三个变量各管一段,缺一项就比不出高下。
| 变量 | 怎么设 | 读成绩单时看什么 |
|---|---|---|
| 文档长度 | 几万甚至几十万字的长文 | 只报一个「通过率」的测试,参考价值有限 |
| 针的深度 | 插进长文里的指定位置 | 看深度分布图,整张图绿多红少才算真稳 |
| 提问类型 | 只问一句与那句话相关的问题 | 针必须只能从原文获得,否则考不到检索能力 |
针之外还要看什么
捞针只考「找得到」,不考「用得好」。针的内容也有讲究:不能靠上下文推断出来,必须只能从原文获得,否则就考不到检索能力。别把捞针分当成长文能力的全部,它是入场券,不是毕业证:从长报告里找要点再综合,是比捞针更常用的真实任务,两端能力都要看。宣传归宣传,深度分布图才是真相。找到信息后的多步处理、跨段综合,是 Agent 考卷的事,见什么是 Agent 评测?多步任务的考卷;把找到的信息按格式写成结果,是指令遵循的考法,见什么是指令遵循评测?听不听话,一次讲明白;数理类针题的对错判定则与数学考卷相通,见什么是数学评测?对错分明,看完就会判断。
捞针测试速查表
- 三个变量:文档长度、针的深度、提问类型。
- 读图:深度分布图比单一通过率更有信息量。
- 盲区:只考找得到,不考用得好。
读长文成绩,先问针埋多深。
长文本成绩单,要看针埋得多深、文档多长。下次看到「支持超长文档」的宣传,不妨换成你的问题:埋在中间那段的信息,它找得到吗?
关于大海捞针测试的三个常问问题
- 针埋得越深越难吗?:通常中段最难,开头结尾相对容易,这是注意力分布的普遍规律。
- 能自己在家测吗?:可以,拿一篇长文藏一句特定信息再提问,就是最简版捞针。
- 写代码场景也用得上吗?:用得上,大仓库里找关键函数是同型题,判法与代码考卷跑通才算数的思路相通。


