跳到主内容

什么是大海捞针测试?长文本的考题

2026-10-18 发布 来源:我告诉你AI导航 阅读

把一句关键信息埋进几万字长文,大模型还能不能把它找出来?这道考题有个形象的名字——大海捞针测试。Kimi 以长文档阅读见长,纳米AI 也常主打资料检索,这类能力的高下,就是靠捞针一类测试量出来的。

把一句关键信息埋进几万字长文,大模型还能不能把它找出来?这道考题有个形象的名字——大海捞针测试。Kimi 以长文档阅读见长,纳米AI 也常主打资料检索,这类能力的高下,就是靠捞针一类测试量出来的。

针是怎么埋进去的

经典做法三步:先选定一句放在无关上下文里也成立的话当「针」,比如一句隐蔽的约定或一个特殊数字;再把它插进一篇几万甚至几十万字长文里的指定位置;最后只问一句与那句话相关的问题,看模型答不答得上来。打个比方,像把一粒芝麻埋进一锅粥——喝完一整锅还能不能说出那粒芝麻在哪。类比失效之处:芝麻不改变粥的味道,而埋进去的针会牵动上下文的连贯性,埋得越自然,题出得越好。

长文本为什么会忘事

两个原因叠加:一是窗口限制,模型一次能处理的文字量有上限,超了就装不下;二是注意力稀释,即便装得下,模型对中间位置的细节关注也会减弱,开头结尾记得牢、中段容易滑过去,实测里这个规律反复出现。所以针埋在中段的命中率往往低于两端,这不是玄学,是结构性的规律。窗口数字年年涨,稀释问题却没同步消失,容量大不等于每一处都被照顾到。中段滑过去的实验结果流传很广,各家模型多多少少都有,差别只在幅度。有的测试还会换位置反复埋针,同一位置埋十次取命中率,把偶然因素压掉。读图有个诀窍:看低分区域的形状,成片低分说明结构性缺陷,零星失手多半是题目问题。针埋多深、文档多长、问的什么类型,三个变量一起看,这份成绩单才算读完整。

捞针成绩单怎么读

正规的成绩单会标注三个变量:文档多长、针埋在哪个深度、问了什么类型。只报一个「通过率」的测试参考价值有限。看到百分比时,先找深度分布图——横轴是针的位置、纵轴是命中率,整张图绿多红少才算真稳。抗干扰的另一面,即长文里混入噪音还能不能盯住主线,与鲁棒性考卷相通,见什么是鲁棒性评测?抗干扰能力,别再混淆了。

三个变量各管一段,缺一项就比不出高下。

变量怎么设读成绩单时看什么
文档长度几万甚至几十万字的长文只报一个「通过率」的测试,参考价值有限
针的深度插进长文里的指定位置看深度分布图,整张图绿多红少才算真稳
提问类型只问一句与那句话相关的问题针必须只能从原文获得,否则考不到检索能力

针之外还要看什么

捞针只考「找得到」,不考「用得好」。针的内容也有讲究:不能靠上下文推断出来,必须只能从原文获得,否则就考不到检索能力。别把捞针分当成长文能力的全部,它是入场券,不是毕业证:从长报告里找要点再综合,是比捞针更常用的真实任务,两端能力都要看。宣传归宣传,深度分布图才是真相。找到信息后的多步处理、跨段综合,是 Agent 考卷的事,见什么是 Agent 评测?多步任务的考卷;把找到的信息按格式写成结果,是指令遵循的考法,见什么是指令遵循评测?听不听话,一次讲明白;数理类针题的对错判定则与数学考卷相通,见什么是数学评测?对错分明,看完就会判断。

捞针测试速查表

  • 三个变量:文档长度、针的深度、提问类型。
  • 读图:深度分布图比单一通过率更有信息量。
  • 盲区:只考找得到,不考用得好。

读长文成绩,先问针埋多深。

长文本成绩单,要看针埋得多深、文档多长。下次看到「支持超长文档」的宣传,不妨换成你的问题:埋在中间那段的信息,它找得到吗?

关于大海捞针测试的三个常问问题

  • 针埋得越深越难吗?:通常中段最难,开头结尾相对容易,这是注意力分布的普遍规律。
  • 能自己在家测吗?:可以,拿一篇长文藏一句特定信息再提问,就是最简版捞针。
  • 写代码场景也用得上吗?:用得上,大仓库里找关键函数是同型题,判法与代码考卷跑通才算数的思路相通。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]