安全微调和能力微调有什么区别？

大模型微调前通常要先回答一个问题：这次练的是能不能，还是该不该。「安全微调和能力微调有什么区别？」决定了数据怎么备、评测怎么测、出了问题谁来兜底。先说结论：能力微调教模型把事做对，安全微调教模型守住界；前者看任务成功率，后者看危险场景的拒答质量。两条线更该并行推进，而不是等出了事再补。

目标不同：一个求成事，一个求守住

能力微调的目标是提高任务表现，让模型在指定场景里答得更准、格式更稳、工具调用更顺。安全微调的目标是让模型识别不该做的事，遇到危险请求时明确拒绝，遇到模糊请求时先澄清意图。一个往加分方向使劲，一个往防扣分方向使劲，训练数据的构造思路完全不同。

数据构成差在哪

能力微调的数据以正确示范为主，覆盖各类任务的标准解法，配少量负样本防止模型学歪。安全微调的数据则要有意放入危险请求和对应拒绝，还要放入边界案例，比如表面正常实则越界的提问，考验模型的分辨力。Kimi、腾讯元宝在公开资料里都提过安全数据与能力数据分开管理、分开评测的做法。

评测口径两套

能力微调看任务成功率、格式正确率、人工满意度这些正向指标；安全微调看过度拒绝率、危险请求通过率、拒答理由是否合理。只跑能力评测会漏掉安全退化，只跑安全评测会掩盖能力下降，两套都得跑、分开记。数据该自建还是该用公开的，可以看自建数据集和公开数据集差在哪？。

两条线的分工，逐项对下来是这样。

先安全后能力，还是并行

实践中的顺序有讲究：先做安全微调打底，再做能力微调，能力数据里混入的风险会小一些；反过来则容易把安全边界冲掉。更稳的做法是两条线并行，每次能力迭代后都回归一次安全评测。想理解安全数据里人类把关的分量，可以读人类反馈和 AI 反馈差在哪？；数据覆盖面则牵动通用指令数据和垂直领域数据差在哪？这个老问题。

上线后的持续维护

上线不是终点，两条线都要跟着业务走。能力侧，新场景、新格式需求会持续出现，每次产品改版都要评估要不要补数据重训。安全侧，新的诱导话术会不断出现，旧的拒答样本覆盖不到，需要定期补充。

维护的节奏建议和产品版本对齐：大版本上线前跑一轮完整评测，小版本只看受影响场景。把安全评测设为发布门禁，不过线就不发，比上线后救火划算得多。腾讯元宝、Kimi 的产品更新都保持着较高的版本节奏，背后是这套评测门禁在支撑。

还要防一种隐性退化：某次能力迭代顺手把安全边界冲松了，而当时没测。每次训练完，两套评测都要全量跑，哪怕这次只动了能力数据。回归测试的成本固定，漏测的代价却不固定。

还有一类常见疏忽是只在新场景上验收。能力迭代后，通用会话、旧场景的表现同样要跑回归，很多退化就藏在没测的地方。把全量评测设为每次训练的默认动作，团队才能把安全当成本分，而不是可选的加分项。这一点在小团队里尤其容易走样，人一忙就只想测新功能，老场景的回归一拖再拖，等发现退化时，已经不知道是哪一轮动的手脚，回滚都找不到目标版本。

对照表：能力微调求把事做成，看成功率；安全微调求守住边界，看拒答质量；顺序上先安全后能力更稳，每次迭代都要回归安全评测。

换个问法再问安全微调和能力微调三句

• 安全微调会让模型变笨吗？：会，拒绝练得过头就变成什么都拒，这就是过度拒绝，所以安全评测里要单独盯这个指标。
• 两个能放在一次训练里做完吗？：可以，但要把安全数据按比例混进去，并且分开记录 loss，否则分不清是能力涨了还是安全塌了。
• 上线后还要继续做安全微调吗？：要，新的用法和新的诱导话术会不断出现，安全线是持续维护的，不是一次交付完就结束。