跳到主内容

AI 数据标注这一年:是怎么变的

2026-10-08 发布 来源:我告诉你AI导航 阅读

AI 数据标注这一年,变的是流水线上人和模型各站哪个位置,不是单价。三年前一个中等项目要二十个人逐张画框,现在同样量级可能只要六个人:三个人定规则、处理争议,三个人审模型给出的初标。人数降了,降掉的是重复动作,判断的部分反而更重。

AI 数据标注这一年,变的是流水线上人和模型各站哪个位置,不是单价。三年前一个中等项目要二十个人逐张画框,现在同样量级可能只要六个人:三个人定规则、处理争议,三个人审模型给出的初标。人数降了,降掉的是重复动作,判断的部分反而更重。

预标注把重复劳动挪走了

预标注的机制不复杂:先用一个已经训好的模型把整批数据跑一遍,产出一个粗糙版本,人只在这个版本上改。目标清晰、边界明确的样本,改几笔就过;模糊样本,人从头做。它带来的变化不是全面提速,而是把工时从「每一张都要动手」压缩成「只处理模型拿不准的那部分」。

判断一个项目适不适合上预标注,看两个比例:模型初标直接被采纳的比例,以及被采纳的样本里抽检不合格的比例。前者低,说明模型和你的数据分布不匹配;后者高,说明模型自信但不可靠。两个数字都要在自己的数据上测,别拿厂商演示的结果当参考。

一笔账要一起算:预标注省下的人工,减去跑模型消耗的算力。样本量大、目标类别少的时候,这笔账容易划算;样本量小、类别杂的时候,模型跑一遍的开销可能超过省下的工时。

质检从抽查变成全量扫描

过去质检靠人抽百分之五到百分之十,问题靠概率撞见。现在工具能做全量的一致性检查:同一类目标在不同图片里的框大小是否离谱、同一个问题在不同标注员手里的答案分布是否偏移、标签组合有没有出现规范里没定义的搭配。这类检查人做不完,工具几十分钟能过一遍。

但工具只能查「和规范不一致」,查不出「规范本身错了」。一条规则如果一开始就写歪,全量检查会把错误执行得更整齐,看起来反而更可信。这是自动化质检的陷阱:它让错误变得一致,而一致的东西最容易被当成对的。

所以质检工具上线之前,先做一次小规模人工复核,确认规范本身没问题。这一步省掉,后面所有自动化都是在放大偏差。

三段时间线,变化落在中间那段

早期是人力密集,产能靠加人,质量靠培训和复核,成本随量线性上涨。中间一段是模型进场做预标注,人从「标注」转成「修正」,产能开始和人数脱钩。现在这一段的增量在质检和难例挖掘,模型不只给初标,还负责找出「这批数据里哪些样本值得人看」。

三段里真正改写成本结构的是中间那段,它让规模效应出现在这个行业。首尾两段改变的是分工方式,成本曲线没那么陡。别把「上了自动质检」当成降本信号,它改善的是稳定性。

没变的部分才是定价依据

标注规范怎么定、边界样本怎么判、两个标注员意见不一致时听谁的、验收按什么口径,这些仍由人决定,而且直接决定项目能不能交付。客户付钱买的不是框的数量,是「这批数据能训出想要的效果」这个承诺,承诺的背后是标准,不是人力。

所以外包报价里,规范设计和争议仲裁这两项一直压不下来。招人画框不难,能写出一份让二十个人标注结果基本一致的规范的人不多。

四类项目的做法对照

项目类型自动化该放在哪人工必须守住的环节判断标准
目标检测框选预标注加全量尺寸异常检查遮挡、截断、小目标的边界判定同一目标两人复标的框重合度是否稳定
文本分类打标先用模型跑一版,再按置信度分层抽检多标签并存、反讽、行业术语的判定混淆最多的两个类别能否用规则区分
语音转写校对转写与自动断句,标出低置信片段口音、专有名词、数字与单位抽查片段里数字错误占比是否可接受
大模型对齐数据用模型生成候选答案与初筛偏好排序、拒答边界、事实核对标注员之间的一致率是否达到约定线

这张表的用法是先对号入座,再看第三列。第三列空着的项目,说明你还没想清楚人的价值在哪,这种项目上自动化只会把问题推后。

自动结果为什么必须抽检

工具的错误会被批量复制。一个人标错,影响一条样本;一个模型标错,影响它跑过的全部样本,而且错法一致,训练时会被当成规律学进去。数据量越大,放大效应越明显,大项目反而更不敢全盘接收。

抽检要分层,不能随机撒。按模型置信度分层:高置信度抽一小批验证,低置信度全查,中间段重点抽。再按数据来源分层,新渠道、新设备、新场景进来的样本单独抽一批,因为分布变化通常先出现在这些地方。

争议样本要留存,不是为了追责,是为了改规范。攒够一批争议样本回头看,会发现大部分争议来自同几条没写清的规则。改规则比反复仲裁省人。

标注项目速查

  • 预标注先看两个比例:采纳率、采纳样本的不合格率
  • 质检工具上线前,人工先确认规范本身没写歪
  • 抽检按置信度和数据来源分层,不随机撒
  • 争议样本留存,用来改规范,不用来追责
  • 自动结果一律不全盘接收,量越大越要抽

三则实操问答

小团队没有自己的模型,怎么上预标注?用通用模型先跑一版,哪怕准确率一般也有价值:它的错误通常集中在同一批难样本上,等于帮你把「哪些样本需要人看」排了序。真正的收益来自筛选,不是来自直接采纳。

标注员之间一致率一直上不去,先改什么?先改规范里的边界条款,再改培训。多数不一致来自规范没写清某种情形怎么办,标注员各自补了常识。把十个争议样本摆在一起讨论一次,通常能补出五条可执行的细则。

模型自己标的数据,能直接拿去训下一个模型吗?可以起步,但要控制比例并保留一批纯人工标注的对照集。全部用模型产出训练,几轮之后会出现同类错误累积,效果一代比一代窄,而对照集能让你发现这件事。

标注这门生意的门槛,正从「能组织多少人」转向「能定义多清楚的标准」。单价被压低的时候,能守住交付质量的一方才有议价空间;榜单上的模型排名换得再快,也替不了你对自己数据分布的理解。跑预标注要花算力,这部分成本怎么变,可以对照算力价格的变化一起算。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]