什么是停止序列?给模型装一个刹车
AI 生成文本一旦开跑就可能停不下来,停止序列就是那个刹车。本文用类比讲清它如何控制收尾时机,帮你少走弯路看懂停止序列。
AI百科聚合面向中文用户的 AI 工具教程、评测对比、场景方案、基础知识、产品快讯和资源合集,帮助用户快速了解工具怎么用、怎么选、适合什么场景。
AI 生成文本一旦开跑就可能停不下来,停止序列就是那个刹车。本文用类比讲清它如何控制收尾时机,帮你少走弯路看懂停止序列。
思考预算是推理模型回答前的 token 限量,决定它允许自己想多久,难题给足、轻题收紧,省额度的关键在调思考预算。
频率惩罚在模型每用一次词后就压低该词再现概率,与存在惩罚配合减少复读腔,参数面板上最值得先弄懂的是这两个惩罚旋钮。
搜索结果的前几条为什么总更贴题,因为海选之后往往还有一轮终面。本文用招聘流程作类比,讲清知识库检索系统里的重排序...
模型仓库像存放 AI 模型文件的线上货架,下载前先看清页面里的文件列表、标签与模型卡片,才不会下错版本,重点仍是...
LoRA 模型文件是贴在基座权重上的低秩适配补丁,只记录微调改动量,几十兆就能为模型换文风、加技能,是轻量定制的...
权重合并指把两个已训练模型的权重按配比融合成新模型,不重训练即可兼具双方长处,开源社区里常讲的模型混血,说的就是...
下载的几个 G 大文件里装的是亿万浮点数,那是模型训练出的经验值。本文讲清权重文件的构成、百科全书类比的失效点,以及...
模型仓库页顶部那份说明文档就是模型卡片,作用类似家电参数表。本文讲清卡片栏目怎么读、自述式说明书的局限,以及下载前必...
基座模型指只完成预训练、还没学听指令的模型,聊天应用背后是它的后训练版本。下载模型前分清这两者,差的那一步就是基座模...
量化格式是给模型权重降精度存的档位规则,Q4、Q8 这些数字就是档位编号。下载本地模型时,文件名里读的就是量化格式。
GGUF 是把模型权重、分词器和配置打包成一个文件、方便本地运行的格式,llama.cpp 生态常用。本地跑模型前,...
老的权重格式在加载时可能执行文件里夹带的代码,safetensors 只存数字不带逻辑。讲清它的存法、与 GGUF ...
检查点是训练 AI 大模型时按固定间隔保存的进度档案,装着当前权重和优化器状态。训练中断了也不必从头来,靠的就是检查...