主动学习和被动标注有什么区别？

给大模型备数据，标注预算永远不够用，先标哪批数据就成了学问。「主动学习和被动标注有什么区别？」决定同样的钱能买回多少效果。先说结论：被动标注有什么标什么，便宜但盲目；主动学习挑最值的样本标，省钱但依赖模型判断。数据预算紧、场景复杂时，主动学习的回报率明显更高。

样本是谁挑的

被动标注按固定来源顺序标：公开集、历史日志、随机抽样，标到哪算哪。主动学习让模型参与选题，挑那些模型最不确定、分歧最大的样本优先标，剩下的自动标或不标。前者像闭眼撒网，后者像盯着鱼群下钩。

成本结构差在哪

被动标注的成本几乎全在标注本身，流程简单，适合起步期快速铺量。主动学习要多养一套选样机制，每轮迭代都要重跑不确定性估计，工程复杂度高，但同样预算下模型提升通常更快。豆包、智谱清言的团队都分享过主动选样在指令数据上的节省幅度。

什么时候会翻车

主动学习依赖不确定性估计的质量，估计不准就会挑错样本，钱花了效果没动。被动标注的翻车方式则是噪声堆积，标了一堆简单重复样本，模型学不到新东西。两种都要配质检，只是重点不同：一个查选样逻辑，一个查标注质量。

两条路线的差别，可以按这五项对照：

实际怎么选

冷启动阶段建议被动标注先铺底，把基础能力托住；进入迭代期再上主动学习，专挑模型短板。两阶段的数据策略可以结合多任务分头和任务混训有什么区别？安排训练，工具投入则对照开源微调工具链和商业平台差在哪？权衡。至于标回来的数据能改变多少，可以读「微调能让模型记住新知识」错在哪？校准预期。

选样机制的工程细节

不确定性估计的实现比想象中繁琐。常见做法是让模型对同一条样本生成多次回答，看分歧程度；或者用集成方式，训练多个小模型看预测方差。两种都要额外算力，选样机制本身的开销要控制在可接受范围，算力紧张的团队可以用单次采样加温度扰动做简化版。

选出来的样本要进标注队列，队列还要配去重：同一批选出的样本可能高度相似，全标就是浪费。按语义聚合成簇，每簇标代表性的几条，剩下的自动标，预算能省一半以上。

每轮迭代后要复盘选样质量：这批样本标注完后，模型在它们上的提升，是否高于随机样本的对照组。连续几轮都输给随机基线，说明选样逻辑有问题，先修逻辑再继续投钱。

工程上还有个细节：选样机制要和训练流水线解耦。选样跑批、标注队列、训练触发是三件事，用任务队列串起来，任何一环出问题都能单独重跑，不会互相阻塞。

补充一个判断标准：同样的标注预算，主动学习带来的提升如果长期低于被动标注，就退回去用被动，别为了方法而方法。工具是手段，效果是目的，这个顺序不能颠倒。多数团队的主动学习，是在被动标注的质检做好之后，才真正发挥出价值的。顺序反了，选样机制只会更精准地挑出一堆没洗干净的数据，把钱花在刀背上。更隐蔽的浪费是选样机制本身的算力开销，一轮不确定性估计跑下来，比多标两百条数据还贵，这种情况下主动学习反而不如老老实实扩大被动标注的覆盖面。

对照表：被动标注按来源顺序标，流程简单适合铺底；主动学习按不确定性挑样，省钱但依赖选样质量；冷启动被动、迭代期主动。

换个问法再问主动学习和被动标注三句

• 主动学习一定要模型参与吗？：核心就是模型说了算，纯随机挑样就退化回被动标注了。
• 小项目值得做主动学习吗？：数据量小时回报有限，先把被动标注的质检做好更实在。
• 怎么验证选样选对了？：对照随机基线做小规模对照实验，同样标注量比提升，几轮就能看出差别。