什么是数据配比？训练材料怎么搭配

给大模型备料，最常见的环节是决定各类材料各占多少，这一步叫数据配比。豆包、文心一言的语料清单动辄几十类，从百科到代码到多语种对话，谁占几成，直接决定模型长成什么样的口味。本文借厨房里的一锅汤，把配比的门道讲清。

一锅汤的配料单：配比在配什么

数据配比要回答三个问题：放哪几类材料、每类放多少、生的熟的怎么搭。类别是骨架——百科给常识，对话教表达，代码练逻辑，少了哪类，模型对应方面就虚。比例是血肉——同一类材料，三成和五成，喂出来的性格不一样。搭配是火候——重复的、太简单的、格式错乱的材料堆再多，也是白占灶眼。

配比没有标准答案，但有明确方向：越接近模型的真实用途，越值得多给。要做编程助手，代码和问答的量就该压过散文；要做写作帮手，文学性材料的比例得抬起来。什么是课程学习？从易到难的训练顺序那篇讲顺序，这里讲分量，两件事合起来才叫一份完整的配方。

起步阶段有个偷懒办法：先按用途清单列一个粗比例，再拿小规模试跑验证。比如通用对话产品，第一版常用对话占四成、百科占两成、代码占一成、其余杂项摊剩余，跑完看哪类任务弱，再把对应材料的比例往上抬一档。这种粗起、细调的节奏，比一开始就设计一张完美配料单更现实。

配餐搭配：偏科是怎么吃出来的

把配比想成配一顿饭：只吃肉会缺维生素，只吃菜会没力气，模型偏科和这一个道理。某一类材料占比过高，模型会把力气都花在对应的风格上：对话喂太多，回答又软又长；代码喂太多，连闲聊都带着注释腔。更隐蔽的是挑食——某类材料质量差却占比高，模型把噪声当成规矩学走，后面要花几倍的功夫纠正。

配餐还有个思路是掺粗粮：故意放一些带噪声、有错别字的真实材料，让模型见惯不完美。厨房里只用精粉反而养不出好胃口，训练里只喂精修数据，模型一到真实用户的随手提问就发懵。掺多少是分寸：粗粮给一成上下，超过三成，就是在喂噪声。

几类材料各给多少，配错了长成什么样。

偏科的例子很常见：早期有模型文言文腔很重，原因是古汉语材料在配比里占了大头；也有模型写什么都要列一二三，因为清单体材料喂得过多。这些问题未必是模型笨，常常是厨房的锅铲歪了。什么是多语言语料？外语数据怎么进训练那篇讲的多语种分量，也是这同一张配料单上的一行。

配比自查清单

• 先列用途清单：模型要干的事，逐类对材料
• 单一类别不超过半壁江山，留出错综的空间
• 低质材料宁可少放，不要以量充数
• 每轮配比调整只动一两类，观察后再动下一处

类比失效的地方：菜单不是越长越好

配餐类比有一处对不上：人的饮食需求有公认公式，模型的目标用途却千差万别，同样的配比在编程助手上是良方，在写作助手上可能就是偏食。菜单的长度也一样：菜式越多，越可能每样都只有一勺，尝不出主次。配比追求的不是齐全，而是倾斜得对。

还有一处：厨房尝一口咸淡能立刻改，模型尝不到自己的配比效果，只能靠训练后的测评反推。所以配比调整是个慢反馈过程，改一处，等一轮训练看结果。什么时候不该微调？先想清楚再动手那篇讲的先想清楚再动手，在动配比之前尤其值得念一遍。

关于数据配比再多问三句

• 配比要不要常常调？：大方向定好后尽量少动，每次只调一两类；动完等一轮训练看效果，频繁翻烧饼会看不清每步的作用。
• 质量差但量大的材料能凑数吗？：不建议。噪声占比高，模型会把错误规律当成规矩学走，纠正的成本远高于当初省下的。
• 怎么知道某类材料给少了？：看模型在对应任务上的表现是否持续偏弱；若弱，先补该类材料的质量与数量，再谈别的旋钮。

配比的账，最后都落在材料像不像真实任务这一句上。你希望模型在什么场景里回答问题，就把那个场景的材料往上抬，其余做陪练。判断一份配比好不好，别看清单全不全，看它倾斜的方向对不对——方向偏了，量越大跑得越偏。