跳到主内容

AI 数据标注 vs 人工标注:怎么选

2026-10-06 发布 来源:我告诉你AI导航 阅读

一个做工业质检的团队,模型精度卡在某个数字上,换了两个网络结构都没动。最后发现问题出在标注:同一条划痕,三个人标出了三种框,模型学到的是一团互相矛盾的答案。标注这件事看着是体力活,实际上决定模型能学到什么。这篇比较纯人工、AI 预标...

一个做工业质检的团队,模型精度卡在某个数字上,换了两个网络结构都没动。最后发现问题出在标注:同一条划痕,三个人标出了三种框,模型学到的是一团互相矛盾的答案。标注这件事看着是体力活,实际上决定模型能学到什么。这篇比较纯人工、AI 预标、人机结合三条路径,说清各自的代价和失效条件,也说明标注规范为什么比标注速度更值得投入。

标注贵在判断,不在点击

把一张图框出来只要两秒,判断这张图该不该框要两分钟。前者是操作,后者是定义:多小的瑕疵算瑕疵、遮挡一半的目标算不算、模糊到看不清的样本是丢弃还是标成困难样本。这些决定没法由标注员临场发挥,必须提前写成规范。规范写得粗,标注速度会很快,返工率也会很高;规范写得细,前期慢,后面几乎不用改。多数项目的成本差异,就产生在这一步。

四条路径,取舍各不相同

按任务性质和容错要求分,可以这样摆:

类型适合谁代价失效条件
纯人工标注专业判断密集的场景:医学影像、法律文书、工业缺陷按条计费,周期以周计;标注员要培训,人员流动带来口径漂移任务量突然放大十倍时产能跟不上,只能降标准
AI 预标加人工抽检数据量大、标准清晰、容错率较高的场景:通用物体框选、文本分类抽检比例决定质量上限;预标错误会集中在难样本上类别极度不均衡时,少数类几乎全标错,抽检也抽不到
人机结合全量复核关键数据集、要交付给外部使用的数据人力成本只降三到五成,省下的是操作时间,不是判断时间复核者直接采纳预标结果时,等于退化成纯 AI 标注
合成数据补充真实样本稀缺、采集成本高的场景分布与真实场景有差距,需要混入真实数据校正合成痕迹被模型学到后,真实场景的表现反而下降

第三行最容易被做坏。复核环节一旦变成看一眼觉得对就过,预标的错误就原封不动进了训练集,而且因为经过了人的确认,团队会误以为这批数据是干净的。

模型标自己的错,会把错固化成规律

用模型预标、再拿预标结果训练新模型,这条路径有循环风险:模型系统性地漏掉某类目标,预标就漏,新模型学到的就是这类目标不存在,下一代继续漏。错误不会随机分布,它会沿着模型的偏好聚集,越训越偏。这类现象可以看 标签噪声为什么会拖垮模型。破解办法不复杂:留一部分完全由人独立标注的对照集,不掺预标结果,定期拿它测新模型,就能看出偏差有没有扩大。

标准不统一,标得再快也是废数据

十个人按十种理解标出来的数据,质量低于一个人慢慢标出来的数据。原因在于模型学的是统计规律,互相矛盾的标签会让它学到这类样本的答案不确定,表现就是置信度普遍偏低、边界抖动。工程上的对策有三条:写规范时配示例,正例反例各给几个;设置试标环节,同一批样本让所有标注员各标一遍,算一致率,低于门槛就回去改规范;给模糊样本单独设一个类别,允许标「不确定」,比强迫二选一更接近真实。一致率怎么算、多少算合格,和评估指标是同一套思路,可以看 模型评估指标怎么定义。

涉及人脸与位置的标注,边界在数据合规

工具提得了效率,解决不了合法性。标注工具能提高效率,处理不了数据的合法性:采集时有没有告知、有没有取得同意、脱敏是否彻底、跨境传输是否合规,这些在标注开始前就定了。人脸、声纹、位置轨迹属于敏感个人信息,外包标注时数据会离开自己的服务器,风险随之放大。可行的做法是最小化,只给标注员看判断所需的部分:人脸任务裁掉背景,文本任务替换真实姓名,再叠加访问日志和定期销毁。具体口径以现行法规和行业规范为准,本文不构成法律意见。

用抽样复核把风险压在可控范围

没有哪种方案能让标注全对,能做的是让错误可控。一个可操作的流程:先标五百条做基线,人工全量核对,算出预标的准确率;再按准确率定抽检比例,准确率九成以上抽一成,八成左右抽三成,低于八成就别继续用预标;每周抽一批历史数据回查,看口径有没有漂。这套流程会增加一点成本,但比返工一次训练便宜得多。数据量再大,也别跳过基线这一步,它决定了后面所有抽检比例的依据。想了解标注在整个训练链条里的位置,可以看 数据标注在训练流程里干什么。

速查:四条标注质检动作

  • 规范里有没有正例和反例的示例图
  • 试标的一致率是否达到约定门槛
  • 预标准确率低于八成时,是否已停用预标
  • 敏感字段是否做了裁剪或替换

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]