大模型的题库常年不换,迟早会被当成明牌来练,这就是动态题库存在的原因。动态题库的更新机制?说穿了是一套滚动流程:新题定时入场、旧题按规则退役、更新节奏与成绩可比性互相牵制,这篇把机制细节梳一遍。
题库为什么要滚动更新
静态题库有两个宿命:一是随公开讨论增多而泄露,二是随模型能力增长而失去区分度。滚动更新对冲这两条:持续补入新题保持难度水位,定期退役高风险旧题控制污染面。补题与退役的节奏设计,决定了题库寿命。
滚动更新的频率没有统一答案,但要与模型的迭代周期匹配:评测对象几个月换一代,题库却一年不动,区分度会在两次更新之间悄悄流失;反过来题库月月大换,成绩失去延续性,读者无所适从。常见折中是季度小更新、年度大更新,小更新只补不删,大更新才动结构。频率确定后要稳定执行,随意的提前或推迟都会让外部使用者难以对齐自己的发布节奏,题库运营的可预期性和题库质量本身一样重要。把更新日历公开挂出,是成本最低的信任建设;遇到特殊情况必须改期时,提前公告并说明原因,比静默变更稳妥得多。
新题从哪来、旧题何时退役
新题来源包括人工命题、模型辅助命题加人工校验、真实场景脱敏改造,入库前要过查重,流程见重叠检测。退役规则通常按「暴露时长+使用次数」双条件触发:一道题公开越久、被测次数越多,退出优先级越高。文心一言、扣子这类平台做内部能力回归时,同样沿用按暴露度轮换的思路。
| 环节 | 具体怎么做 | 触发条件或门槛 |
|---|---|---|
| 人工命题 | 由出题人按考点分布新写题目 | 入库前必须过查重 |
| 模型辅助命题 | 模型先起草,再由人工逐题校验 | 校验不过的退回重做 |
| 真实场景脱敏改造 | 把真实用例去掉可识别信息后改写成题 | 脱敏与查重两道都要过 |
| 旧题退役 | 按优先级退出主体题库 | 暴露时长与使用次数双条件触发,公开越久、被测越多越先退 |
更新日与成绩可比性
题库一变,前后分数就不能直接横比,这是动态题库的代价。常见的协调办法是双轨制:一批稳定锚题长期不动,用于跨期对比;主体题库滚动更新,用于反映当前能力。锚题的选择与保护要求很高,一旦锚题泄露,跨期对比就断了参照。
动态题库的配套成本
滚动意味着持续投入:命题、审核、更新公告、成绩断层解释,样样要人力。预算怎么排,可参考评测成本估算;跨硬件环境迁移题库时的注意点,见硬件与跑分关系;量化版本模型在新旧题上的表现差异,延伸看量化模型评测;新旧题分数衔接的统计处理,则要借力显著性判定。一个可带走的判断:题库更新不是技术问题,是可持续运营问题。
更新节奏的公布本身就是运营的一部分:提前预告更新窗口,给使用者留出调整预期的时间;更新后发布新旧版本的衔接说明,解释分数为什么不能直接横比。做得周到的题库运营,会同时给出新旧两套成绩供过渡期参考。信息透明度高的团队,即使在更新造成的分数波动期,也更容易保住读者的信任。
补题的质量控制比数量更关键:新题入库前先做小规模试测,观察通过率与区分度是否落在合理区间,异常题目退回重做。试测样本与正式评测的对象要隔离开,避免试测本身造成暴露。一套完整的入库流程走下来,单题成本不低,但换来的题库可靠性,远比快速堆量更有长期价值。
题库更新机制速查
- 补题:人工命题+辅助生成+校验
- 退役:暴露时长与使用次数双触发
- 锚题:长期不动,专供跨期对比
- 公告:更新时间与范围写清楚
关于题库更新再多问三句
- 锚题会不会也会饱和?:会,锚题只解决可比性,饱和了同样要换,只是节奏更慢。
- 旧题退役后就永远不用了吗?:未必,隔几个周期可能以改写形式回归,前提是查重过关。
- 普通读者怎么知道题库换过?:看评测公告,规范方会标注版本号与更新范围。


