合成数据和真实数据有什么区别？

大模型训练数据的来路分两种：从真实世界采集，还是让模型自己造。合成数据和真实数据有什么区别？一个便宜量大但可能近亲繁殖，一个贵而杂却代表真实分布。成熟的用法不是二选一，而是让真实数据打底、合成数据补位。

结论先说：真实数据打底，合成数据补位

真实数据的价值在于代表真实分布。用户真实的提问方式、口语习惯、错别字和歧义，只有在真实数据里才齐全，这是模型上线后能不能接住流量的关键。合成数据再像，也是模型想象的分布，细节处容易露出机器味。

合成数据的价值在于补缺口。真实数据里少见的题型、罕见的边界、被隐私挡住无法采集的场景，都可以用合成的方式造出来。拒答与边界样本就常常借助合成扩充覆盖面。比例上，合成数据通常做配料，不做主食，一旦当成主食，模型学到的就是生成模型自己的偏见合集。

来源与成本结构

真实数据的成本在采集和清洗：抓取、脱敏、去重、质检，每一步都要人力和算力，还受来源存废影响，说没就没。合成数据的成本在生成和筛选：调好生成提示词，批量产出，再过滤不合格的。算力成本实打实，但没有采集的不确定性。

规模上合成数据占优。要一万条特定格式的样本，真实途径可能要攒几个月，合成途径几天就能出。但便宜是有条件的：生成模型本身要够强，弱模型造的数据只会把噪声放大。清洗管线对合成数据反而要更严，因为它的错误是系统性的。还有一个隐性成本常被漏算：合成数据要人来定义什么算合格，这个定义本身就要领域知识兜底。

两条来路的成本账，拆开是这几笔。

风险点完全不同

真实数据的风险在脏：噪声、偏见、过时信息、许可不清，都是外部带进来的。合成数据的风险在同质：生成模型爱走熟悉的路，造出来的数据多样性窄，模型在合成数据上训久了，会把这种窄当成全世界，俗称近亲繁殖。

识别近亲繁殖有简单办法：看模型在真实测试集上的表现是否随合成比例上升而下降。如果合成数据加到一定比例，真实场景的分数开始掉，就是多样性枯竭的信号。文心一言和智谱清言公开谈数据策略时都提到，合成数据必须持续接受真实分布的检验。生成环节还要定期更换提示词和种子，老用一套模板，造出来的数据会越来越像。

配比的实操经验

常见的配比区间是合成数据占一两成到三成，真实数据占大头，具体看任务。要补的缺口越大，合成比例可以越高，但真实测试集的分数是天花板，越过就退。多轮对话这类结构复杂的数据，合成比例还要再降，因为连贯性错误在合成数据里更常见，一段对话里前后矛盾，比单轮错误难发现得多。

监控上建议双账本：合成训练集一套指标，真实验证集一套指标，两套都要看。顺序与比例的纪律同样适用，合成比例每次只动一成，跑完对照再加。并行训练跑大规模实验时，更要防止只看训练损失的虚假繁荣。代码语料和自然语言语料的配比，是这套方法最经典的应用场景。

对照表：真实数据贵在采集清洗，风险在脏；合成数据贵在生成筛选，风险在同质；合成占比一两成到三成封顶。双账本监控，真实测试集是天花板。

合成与真实数据的三个常问问题

• 合成数据会让模型变笨吗？过量且单一会，多样性枯竭后模型只会那一套，真实场景表现明显下滑。
• 能用 AI 反馈代替人工标注吗？可以补充，但强模型生成的偏好标签要抽样人工校验，人类反馈和 AI 反馈的差异要先弄清。
• 合成数据需要清洗吗？需要，而且过滤标准要更严，生成数据的错误往往成批出现，一条漏网可能带出一片。