评测一个 AI 模型,分数从哪来?人评与机评是两条路。结论先行:有标准答案的题交给机评,开放创作与需要专业眼光的题交给人评,规模化评测用「机评为主、人评抽检」的混合制。人评和机评的差别,从准头、成本、稳定性三个维度看最清楚。
差别一:准头与偏好
人评擅长捕捉细腻差异,比如回答是否贴题、语气是否得当,但评审者之间水平不一,容易各打各的分。机评标准统一,却可能继承判分模型的偏好,比如偏爱某种句式或更长的答案——把腾讯元宝当判分模型用时,先测它对不同句式的打分是否稳定。哪类题适合机判、哪类必须人评,与题型本身有关,见客观题和主观题评测有什么区别。
差别二:成本与速度
机评的边际成本极低,一夜能跑完上万题,Kimi、通义千问这类判分接口一晚就能出结果;人评每题都要花钱花时间,通常只能覆盖小样本。所以大规模初筛靠机评,关键题型与争议样本再交人工,通用榜和领域榜在判分侧重上也因此不同,见通用榜和领域榜有什么区别。
差别三:一致性与可解释
机评的一致性好,同一题跑两遍结果稳定;人评的一致率要专门去验,评审者对同一答案的打分可能前后不同。但出问题时,人能讲清扣分理由,机评给的理由可能似是而非。另外机评再稳定,题集固定久了也会失真,见固定集和动态集有什么区别。
混合制怎么落地
推荐三步走:机判全量打底,人评按题型分层抽检,抽检偏差超阈值就回修机判模板。落地时把机判提示词与人工评分细则都写成文档,评审结果才可追溯;整套流程固化下来就走向自动化,见评测自动化是怎么搭的。
评分细则怎么写才不出偏
人评前先写细则,细则的核心是给每一档分数配一条范例答案:满分档是什么样、及格档是什么样、不合格档长什么样,评审对照范例打分,分歧会小很多。细则还要说明扣分项与一票否决项,比如事实错误直接降档、格式违规如何计。机评侧同理,模板要写明命中什么给分、命中多处是否叠加,规则藏在代码里等于没写。细则定完先做一轮试评,几名评审各打十道题对一对,分歧大的条目回炉修改细则再正式开跑。这套动作多花半天,能省掉后面几轮返工,也给新加入的评审一份可查的依据。
细则之外,评审培训同样重要。新人进组先跟一轮盲评,与标准答案的偏差在可接受范围内再独立打分。评审之间定期互看样本,讨论分歧最大的十道题,标准会在讨论中慢慢对齐,这比一纸细则更能稳定长期质量。
评分表本身也要留版本号,同一批答案用新旧两版细则打分,结果可能差出一档,比较之前先确认用的是哪一版。
| 细则要素 | 要写清什么 | 不写会怎样 |
|---|---|---|
| 分档范例 | 满分档、及格档、不合格档各是什么样 | 评审各打各的分 |
| 扣分与一票否决 | 事实错误直接降档、格式违规如何计 | 同类问题两种判法 |
| 机评命中规则 | 命中什么给分、命中多处是否叠加 | 规则藏在代码里等于没写 |
| 版本号 | 这批答案用的是哪一版细则 | 新旧细则混比差出一档 |
人评与机评对照表
- 准头:人评细腻,机评统一但可能带偏
- 成本:机评低,人评高
- 一致性:机评稳定,人评需验一致率
- 推荐用法:机评打底,人评抽检兜底
关于人评和机评再多问三句
- 机评能完全替代人评吗?:目前不能,判分模型的偏好没有可靠的自查手段,人工抽检仍是必要的校准环节。
- 人评找谁评更靠谱?:优先找与题目场景匹配的人,数量少但对口,胜过人多而不对口。
- 机评分数会被刷吗?:会,针对判分模型的输出风格优化答案就能提分,这也是机判模板要保密的原因。


