同一道题,换个说法模型就答错了——这种不稳,正是鲁棒性评测要抓的东西。它专门考模型的抗干扰能力:面对改写、噪音、误导和格式变化,表现还能不能保持。DeepSeek 或讯飞星火在你这里有时灵有时不灵的部分体验,往往就与稳定性有关。
抗干扰测的是什么
一句话:换件衣服还认识吗。把题目里的关键词换成近义词、调整语序、加错别字、套进角色扮演的壳,模型的正确率掉得少,说明稳;一改就懵,说明它背住的是表面形式,没真正理解。打个比方,像认人——只认得某件外套的人,对方换件衣服就认不出了;真认识这个人,穿什么都认得。类比失效之处:人换装仍有一贯的长相,而题目的改写可以改到语义都偏移,改写幅度多大算「同一道题」,本身就需要人为划定。
干扰都从哪里来
常见干扰四类:表述变化,同义改写与语序调整;噪音混入,长文本里插进无关内容,考验它能不能盯住主线,长文场景的考法见什么是大海捞针测试?长文本的考题;诱导偏差,提问时暗设倾向,看模型跟不跟着走;格式变化,同一任务换模板、换标点、换编号方式。
| 干扰类型 | 具体做法 | 考的是什么 |
|---|---|---|
| 表述变化 | 同义改写、调整语序 | 是不是只记住了表面形式 |
| 噪音混入 | 长文本里插进无关内容 | 能不能盯住主线 |
| 诱导偏差 | 提问时暗设倾向 | 会不会跟着提问走 |
| 格式变化 | 换模板、换标点、换编号 | 换了壳还认不认得出任务 |
一次不稳算不算失败
不算,评测看的是比例和趋势。规范做法是构造同源题组——同一道题的多个变体打包成组,统计组内正确率的一致性。个别变体失手正常,整组大幅波动才说明真有稳定性问题。这也解释了为什么有时你重问一次,模型就答对了:不是它突然变聪明,而是上次恰好踩在波动里。题组设计还有讲究:变体之间既要像,又不能像到可以背答案,分寸全在出题人手里。评测里常做的就是把一道题改出十来个变体,全对才算这题过关,这也是「一致性」三个字的由来。一致性高的模型,你说一句话它就懂;一致性差的,同一件事要换三种问法碰运气。真实使用里干扰无处不在:用户话说一半、错字连篇、中途改主意,都是天然的压力测试。这也是为什么同一款模型,你和朋友的使用感受能差出不少。挑模型时不妨自问:你要的是偶尔惊艳,还是从来靠谱?多数日常工作,后者更值钱。稳定性这一课,榜单上常常缺席,体验里处处都在。
稳和聪明是两回事
两个分数要分开读:能力分高说明难题能解,稳定性好说明简单题不失手。理想模型两者兼得,现实里常有偏科——花哨的改写就露怯,多半是理解不扎实;越引导越跑偏,多半是主见不足。抗诱导与该拒绝的判断相邻,见什么是安全评测?红线测试,新手版入门与什么是对齐评测?价值观的考卷,通俗版解释;格式层面的严格照办则是另一张卷子,见什么是指令遵循评测?听不听话,一次讲明白。
鲁棒性速查表
- 测什么:改写、噪音、诱导、格式变化下的表现一致性。
- 怎么看:同源题组内的一致率,比单次对错更有意义。
- 常见误读:一次答错不等于不稳,整组波动才算数。
先看一致率,再看单题分数。
稳,是聪明的地基。能力分数再好看,抗干扰不行,体验就会时好时坏;下次你感觉模型忽灵忽笨,先怀疑稳定性,再怀疑能力。
关于鲁棒性评测再多问三句
- 改写多少算过度?:改动到语义或任务目标都变了,就不算同一道题,题组设计时要划清界限。
- 日常用得上吗?:用得上,同一件事换三种问法都得到一致回答,就是最朴素的稳定性自测。
- 代码也能测稳定性吗?:能,换种问法让它写同一个功能,判法与代码考卷相通,见什么是代码评测?跑通才算数,一个例子讲透。


