改完一条提示词,你盯着DeepSeek的输出看了半分钟,点头收工——这是人工测试。换了五十组输入,让脚本把输出逐条打分再汇总——这是自动评测。名字听起来像一件事的两半,其实是两套不同的工作方法,各管一段生命周期。
先给答案:人工管对不对,自动管稳不稳
人工测试回答的问题是这一条好不好:口径对不对、语气合不合适、格式有没有崩。自动评测回答的问题是这一批稳不稳:换十组输入、换一种问法,结果会不会跑偏。刚写完的新提示先走人工,进入每天要用的阶段就必须补自动评测,因为人眼看不过来,也看不出慢慢发生的漂移。两者有先后顺序,也有叠加关系,跳过前者的自动评测只会把错误结果批量复制。
两条路各管一段生命周期,按下面几项对照就能定用哪个:
| 对比项 | 人工测试 | 自动评测 | 失灵的表现 |
|---|---|---|---|
| 回答的问题 | 这一条好不好:口径、语气、格式 | 这一批稳不稳:换输入、换问法会不会跑偏 | 跳过人工直接自动,错误结果被批量复制 |
| 怎么跑 | 逐条读输出,对照预期挑毛病 | 先做规则判断,再让另一个模型对照标准打分 | 规则只覆盖长度、必填字段这类硬指标 |
| 强项 | 快、便宜,能发现你想不到的问题 | 量大、口径恒定、可重复跑 | 人眼看不出慢慢发生的漂移 |
| 弱项 | 标准会漂,早晚判断都可能不一样 | 主观质量测不出来,比如文案是否打动人 | 几个人轮流测,口径对不齐 |
| 成本 | 几乎为零,写三到五条验收要点即可 | 要准备测试集、写判断规则、维护打分模型 | 个人用户硬搭全套,维护成本压过收益 |
| 用在哪 | 新提示验收,改动时测十条 | 每周固定全量回归一次,抓旧问题复发 | 出错代价高的提示只靠人工兜 |
人工测试怎么做的
人工测试的核心动作是逐条读输出、对照预期挑毛病。它快、便宜、能发现你想不到的问题:某句话读起来别扭、某个说法在你行业里不成立,这些只有人能判断。缺点同样明显:标准会漂。同一个人早上和晚上的判断可能都不一样,更别说几个人轮流测,口径就对不齐了。
做法上有个小技巧:测试前先写下三到五条验收要点,比如结论必须有出处、条数不超过五条、禁止出现反问句,然后按条打钩。写下来的标准和脑子里的标准,稳定性差一个量级。用Kimi或豆包跑测试时同理,每轮只盯这几个点,别被输出里的新鲜花样带跑。
自动评测在跑什么
自动评测是把验收标准写成可执行的判断。最简单的一层是规则判断:长度是否超标、必填字段是否存在、结果能不能被正常解析成表格。再往上一层是打分判断:让另一个模型对照标准给输出打分,也就是常说的模型评模型。自动评测的强项是量大、口径恒定、可重复跑,弱项是规则覆盖不到的主观质量,比如一段文案是否打动人,它测不出来。
搭建成本是它绕不开的门槛:要准备测试集、要写判断规则、要维护打分模型,这套东西对个人用户和团队的意义完全不同。个人用户攒一个十来条的测试清单手动过一遍,就已经挡住大半问题;团队化运营的提示,没有自动评测几乎寸步难行。这十来条输入从哪来?从日常真实材料里挑最有代表性的几组,再配上两个故意刁难的边界情况;组内输入怎么挑、怎么攒,用开源提示库和自己攒有什么区别?里的攒法同样适用。
两条路的比例怎么配
一个被验证好用的配比是:改动时人工测十条,每周固定用自动评测全量回归一次。人工抓新问题,自动抓旧问题复发。至于具体某条提示该往哪边倾斜,取决于它出错的代价:坏了只是重写一段话的,人工就够;坏了会影响下游十个人干活的,必须上自动。两条路怎么衔接、各管哪个阶段,在迭代试错和评测驱动有什么区别?里还有一层工作方式的对照。
速查表:两条路的分工
- 新提示验收:人工测,写好验收要点再动手
- 日常回归:自动评测,规则加打分两层
- 判断口径漂移:同一条输入每周重跑,比对结果
- 人工抓意外,自动抓复发。
关于自动评测的三个常问问题
- 没有编程基础能做自动评测吗?:能做轻量版。把固定的十组输入存在文档里,每次改动后逐条重跑,肉眼按规则核对,这就是最原始的自动。
- 模型评模型可信吗?:大方向可信,细节要抽查。让它打分的同时给出理由,人工每周抽查几条理由是否站得住。
- 它和版本管理是什么关系?:每次改版前跑一遍评测留档,版本才有可比性,记录方式见提示版本和代码版本管理差在哪?


