让大模型写一段不超过一百字的自我介绍,它写了一百六十字还带三个感叹号——听不听话,一测便知。这段听话程度,在 AI 评测体系里有专门的考卷,叫指令遵循评测。你在扣子上搭应用、让模型按格式输出时感受到的服不服管,就是这张考卷量出来的东西。
评什么:一条指令里的四层要求
拆开看,一条指令至少藏着四层要求:任务本身做什么、约束条件有哪些(字数、格式、语言)、范围边界(写什么不写什么)、风格要求(正式还是口语)。评测时把每层要求拆成可核对的点,答对了内容但超了字数,按规则扣分,像按图纸验收工程:菜对了只是一半分,分量、摆盘、温度也都算分。日常体验里出问题最多的恰恰是这一层——很多人觉得模型不听话,真相常常是要求没说成它能核对的样子。把「大概」「尽量」换成具体数字,执行率立刻上一个台阶。
判分方式:逐条核对加主观评审
出题时把要求逐条编号,答案生成后逐项打勾,缺一项扣一项。要求分两类,判分方式不同:「不超过一百字」机器一眼核对,误差接近零;「语气活泼一点」就得靠评审的主观判断,误差大得多。约束越具体越好判,所以靠谱的指令遵循基准里,可机器核对的约束占大头。评审若由模型来当,还要看评审自身的偏向,那是另一层误差来源。读一份评测报告时,先看约束是否可核对,再看评审是谁来当,两步就能筛掉一半水分。
坑题设计:故意埋的四类陷阱
光有直题测不出深浅,题库里常埋几类坑。矛盾指令:前面说列三点,后面又说别超过两点,看模型发现不发现;嵌套指令:主任务里夹带小要求,看它顾不顾得上;反向指令:要求「不要解释」,看它忍不忍得住;多步指令:一步套一步,漏一步扣一步。坑题的价值在于把表面服从和真理解分开,会硬凑的模型在坑里一跳一个准。分数里通常单列一项矛盾指令识别率,专门衡量这种发现能力。
分数怎么读:两个常见误读
误读一是把高分当成处处顺从。约束彼此冲突时,好的模型应该指出冲突而不是硬凑,见坑就跳的满分未必是好体验。误读二是把听话当成对:内容对错是另一张考卷,数学管对错,代码管跑通,两张分数分开看。另外,听话分和模型规模没有简单的正比关系,参数量大的版本未必更服管,参数量与能力的差别要单独理解;小尺寸版本在听话分上的表现,也常和人们对蒸馏版的想象不一致。自己选模型时,开源权重版本可以拿来直接测,比看榜单更贴你的场景,见 开源权重模型能不能用。
边界:这张考卷测不到什么
指令遵循评测只管照没照办,不管内容质量、事实对错和趣味,也不管真实场景里那种模糊到没法核对的指令——「帮我写得吸引人一点」这类要求,题库很少碰,因为它没有可核对的点。提示词写得再规范,也管不住模型编造事实,那是另一套机制的问题,见 提示词能不能治好幻觉。读分时还要留意题库构成:约束类题目偏简单的基准,分数容易虚高。
| 指令里的要求类型 | 评测怎么判 | 你下指令时怎么写 |
|---|---|---|
| 字数与长度 | 机器核对,误差极小 | 写具体数字,别写「简短一点」 |
| 输出格式 | 结构逐项比对 | 指定清单、表格或 JSON,给出字段名 |
| 范围边界 | 覆盖检查,看写没写多 | 明确说只要 A,不要 B |
| 语气风格 | 依赖评审主观判断,误差大 | 给一个示例段落,比堆形容词管用 |
指令遵循速查
- 四层要求:任务、约束、边界、风格,逐层核对
- 可机器核对的约束越多,判分越可靠
- 坑题看发现力:矛盾、嵌套、反向、多步
- 读分:听话分与内容分分开看
换个角度再问三条
指令遵循分数高,写出来的文案会更好看吗?两回事。好看属于内容质量那张考卷,听话分只确保格式和字数照办,风格要求也只到形似为止。
同一个模型在两个产品里听话程度不一样,正常吗?正常。基座相同,产品端加的策略层和提示词包装不同,实际表现以你用的那个入口为准。
要求写在长消息末尾总是被漏掉,怎么改?把关键约束放开头或单独成段。长消息末尾的要求最容易被淹没,这是注意力分配上的通病。
下一份评测榜单,先把听话分单独拎出来看,它和日常体验的相关程度,可能比你以为的更高。


