什么是早停？怎么判断该停止训练了

训练到第三十轮，训练损失还在稳稳往下走，验证集上的准确率却从第十八轮起就没再动过。AI 训练里这种分叉很常见，继续训下去，训练指标会更漂亮，实际效果反而变差。早停就是在这个分叉点上做决定：不预设训练多久，边训边看，该停就停。它的规则简单，但判断依据选错、或者停下来之后少做一步，效果会差出一截。

训练损失为什么不能当依据

训练损失衡量的是模型对已经见过的数据的拟合程度，它的下降几乎单调——只要参数还在更新、容量还够，它就会继续降，哪怕降的是对噪声的记忆。拿它当停止依据，等于让模型自己给自己打分，永远得到「还能更好」的答案。验证损失不一样，它算在没参与训练的数据上，模型开始死记训练集时，这部分的表现会先变差。两条曲线的分叉点，才是真正该关注的位置。所以早停的第一个前提是：必须留出一份模型在训练中看不到的数据。

几种判据各有什么盲区

第三行最容易出错。准确率是个不连续的量，多对一个样本就跳一格，验证集只有几百条时，一轮之间上下浮动几个点很常见，按它触发停止会非常不稳定。样本不均衡时问题更大，模型只要全预测成多数类就能拿到很高的准确率，这时候该换成 F1 或召回率这类指标。指标怎么选，取决于你更怕漏判还是更怕误判，没有通用答案。

耐心值在防什么

验证指标不是平滑曲线，它带着噪声。如果一看到回升就停，很可能停在一次偶然的抖动上。耐心值的做法是：连续若干轮没有改善才判定为真的到顶。这个数字没有标准答案，验证集越小、指标越不连续，耐心值就该给得越大。反过来，耐心值给得太大，等于让模型在已经变差的区间里多跑很多轮，白烧算力，还可能把参数带得更远。工程上的折中是十几到几十轮，具体看单轮训练成本和验证集规模。想更稳地估计验证表现，可以配合 交叉验证 的做法，用多折结果的平均值代替单次切分。

停下来之后还必须做一步

触发停止的那一轮，参数通常已经不是最优的了——它比最佳点又训练了若干轮，已经往过拟合的方向走了一段。所以早停的完整动作是两步：先停，再把权重回退到验证表现最优的那一轮。很多实现只做了第一步，训练确实停了，保存下来的是最后一轮的参数，效果自然打折扣。这一步在框架里通常靠「每轮验证改善就存一份检查点」来实现，成本是磁盘占用，收益是省掉重新训练。判断一个早停实现对不对，看它保存的是不是最佳轮次就够了。过拟合本身的成因，可参考 过拟合是怎么发生的。

什么情况下它会误判

早停有三个明确的失效场景。验证集太小，指标噪声盖过真实趋势，它会频繁误判，停在一个随机的位置，这时候该做的是扩验证集或改用交叉验证，而不是调耐心值。反复用同一份验证集调超参数，验证集会被用脏——你实际上是在对它做优化，它的表现会虚高，此时必须另留一份测试集做最终评估，否则上线后掉点是必然的。指标本身不连续或后期趋于饱和时，判断会变得很不灵敏，比如生成任务上的某些文本指标，前期涨得快、后期几乎不动，按它停会停得太早。还有一层容易忽略的相互作用：如果同时用了学习率衰减，衰减本身会让指标出现一次台阶式提升，这次提升会被早停误读成还在变好，从而把停止点往后推。两者叠加时，要么把耐心值调大，要么把衰减节点和早停的判断解耦。

和正则化叠加时怎么调

早停本质上是一种隐式正则：它通过限制训练时长，压住了参数往噪声上跑的空间。既然是正则，它和 权重衰减、Dropout 这类显式正则 就会互相叠加。三者都调强，模型容易欠拟合，表现为训练损失和验证损失都降不下去；都调弱，早停会变成唯一的安全网，一旦验证集有噪声就失效。可行的做法是先固定早停的耐心值，再调显式正则的强度，观察验证曲线的最佳点是否往后移动——移动说明正则还不够，没动说明已经够了。这个顺序比同时调三个参数更容易看清因果。

速查：早停的四个要点

• 看验证集，不看训练集；训练损失只会降，不提供停止信号
• 连续若干轮不改善才停，耐心值随验证集规模调整
• 停完必须回退到最佳轮次的权重，只停不回退等于白做
• 验证集反复调参会被用脏，最终评估要另留测试集