什么是过拟合?模型「背答案」是怎么回事
有一种学生把练习册答案全背下来,一考原题满分,一换题型就懵。大模型也有同样毛病,叫过拟合。本文讲背答案与学规律的区别、怎么发现和抑制过拟合。
AI基础百科栏目解释 AIGC、提示词、Agent、RAG、Token、模型、工作流、检测与认证等常见概念,适合新手快速补齐 AI 工具使用前的基础知识。
有一种学生把练习册答案全背下来,一考原题满分,一换题型就懵。大模型也有同样毛病,叫过拟合。本文讲背答案与学规律的区别、怎么发现和抑制过拟合。
模型越复杂越容易学歪,正则化就是在训练目标里加一项惩罚,限制模型过于复杂,减少过拟合。本文讲正则化的类比、常见做法、代价,以及它防不住的场景...
模型需要不断升级,但服务不能停。热更新在不中断服务的情况下替换运行中的模型,让用户无感知切换。本文讲 AI 热更新为何更难、三种切换策略和四...
灰度发布是新功能先开放给部分用户、确认稳定后再逐步放量的策略。本文讲它解决什么问题、怎么划分人群、与 A/B 测...
做完 A/B 实验,A 版转化率高 5%,是真实效果还是随机波动?显著性回答"差异是否碰巧"。本文讲样本量、置信...
AI 回复慢,慢在哪一段?拆开首字延迟与生成速度两段,看清模型大小、输出长度、推理模式、负载和网络各自怎么影响等...
多任务学习用同一套模型参数同时学习多个相关任务,共享底层能力。本文讲清它互相补充、防过拟合、省资源的原理,关键前...
主动学习是让模型主动挑出最不确定的样本交给人标注,用有限标注成本换更大提升。本文讲清三种挑选策略、适用场景与四类局限...
对比学习不告诉模型正确答案,只让它判断哪些样本相似。讲清正负样本构造、表征距离拉近推远的机制、数据增强的角色,以及它...
模型窃取指攻击者反复调用模型接口、用输入输出训练替身模型来逼近原模型。本文讲清它为什么可行、三类危害、限流与输出水印...
从防御视角理解 AI 内容防护:模型约束、输入输出过滤与产品流程如何配合,平台和开发者分别需要检查哪些环节。
数据漂移是模型上线后真实数据分布与训练时不再一致,导致它慢慢失效。本文讲清输入与概念两类漂移、四类诱因,以及监控、重...
对抗样本是精心设计、能让模型判断出错的输入,改动对人几乎不可见。本文讲清它利用统计特征脆弱边界的原理,以及对抗训练、...
分词器把文字切成 token,是模型真正读取的最小单位,决定能读多长、花多少钱。本文拆解三种切法,解释中英文 tok...