大模型通用能力再强,落到具体行业也常「说外行话」:术语用错、流程张冠李戴、口径和公司实际不符。领域微调就是补这块短板,而它的数据几乎不会来自公开网络,得从内部资料里一点点整理出来。本文按机制层思路,讲清从一堆杂乱文档到可用训练集的四步。
收集:内部资料有哪些
第一步是把散落的资料归拢。常见的来源有产品文档、操作手册、内部 FAQ、客服工单、会议纪要和项目复盘。进来的是各处的文件,按主题和时效分门别类;出去的是一份带来源标记的清单。这步容易忘但关键:记不清哪份文档进了训练集,后面出问题根本没法追查,来源档案要一起建。定优先级也有讲究:离用户越近的资料越优先,客服工单和 FAQ 往往比内部规范更直接反映真实提问方式。
清洗:去噪与脱敏
第二步是清洗。文档里的格式噪声先清:乱码、表格错位、截图占位、重复页。然后是内容层面的处理:过时版本标注或剔除,含个人信息的片段做脱敏或替换。进来的是原始文档,出去的是干净文本。脱敏这步不能省,内部资料里的姓名、联系方式、内部代号一旦进训练集,模型可能在回答里复现出来。脱敏还要留记录,哪份文档、哪一段、换成了什么占位词,事后审计和重新构造都用得上。
构造:从文档到指令对
第三步是把文档变成训练能用的指令对。大段文档不能直接喂,先按主题切成块,再从块里构造「问题加答案」:可以人工撰写,也可以请通义千问或 DeepSeek 先出草稿、人工修订。进来的是知识块,出去的是带标准答案的指令样本。构造时优先覆盖高频真实问题——工单里被问得最多的,就是最该进训练集的。答案要写「公司口径」而不是「通用口径」:同样一个问题,公开模型给的答案和内部规定不一致时,训练数据必须站内部规定,否则训完还是说外行话。
质检:抽检与回流
第四步是质检。答案准确性逐条过,术语口径统一查,格式规范抽查;不行的退回修订,改完的重新入库。质检发现的高频错误,回头改构造模板。质检还要看覆盖:按目标场景列问题清单抽样测,答不上或答错的正是缺口,回补一轮再测,直到清单通过率达标。这套「生成加过滤」的打分逻辑,和合成数据是怎么筛的是同一套;整体质量问题看指令数据的质量怎么判断里的分布盘点。
| 检查项 | 查什么 | 不过怎么办 |
|---|---|---|
| 答案准确性 | 逐条对照内部规定 | 退回修订后重新入库 |
| 术语口径 | 全篇用词是否统一 | 回头改构造模板 |
| 格式规范 | 输出样式抽查 | 重新入库前再过一遍 |
| 覆盖度 | 按目标场景列问题清单抽样测 | 回补缺口再测一轮 |
整理好的领域数据还要考虑和旧料的配比,避免续训把通用能力冲掉,见继续预训练怎么避免忘本;冷启动缺样本时,可让模型先扩一轮,见自我训练是怎么回事。最后说一句成本账:内部资料整理是人力活,模型只能提效不能替人,关键判断比如口径对不对、脱敏干不干净,必须人来签字。
- 来源:产品文档、手册、FAQ、工单、纪要,先建清单
- 清洗:去格式噪声、剔过时版本、脱敏个人信息
- 构造:文档切块转指令对,优先覆盖高频真实问题
- 质检:准确性、术语口径、格式三查,错误回流改模板
- 底线:来源档案和脱敏记录要留,出问题才追得回
领域微调数据快问快答三则
- 工单数据能直接用吗?:不能直接用,要先脱敏去噪,再从对话里提炼问题和标准答案,原样喂会带入口语噪声和错误示范。
- 内部数据太少怎么办?:先保证高频问题全覆盖,再靠模型辅助扩写和自循环补量,别用噪声数据凑数。
- 整理完怎么判断够不够?:对照目标场景列问题清单抽样测,答不上或答错的正是缺口,回补一轮再测。


