什么是检查点?训练过程的「存档点」
检查点是训练 AI 大模型时按固定间隔保存的进度档案,装着当前权重和优化器状态。训练中断了也不必从头来,靠的就是检查点。
AI基础百科栏目解释 AIGC、提示词、Agent、RAG、Token、模型、工作流、检测与认证等常见概念,适合新手快速补齐 AI 工具使用前的基础知识。
检查点是训练 AI 大模型时按固定间隔保存的进度档案,装着当前权重和优化器状态。训练中断了也不必从头来,靠的就是检查点。
同一个开源模型,FP16 版和 INT8 版体积能差近一倍,多花的显存换来了什么。本文用称重刻度作类比,讲清这串字母数字背后的权重精度。
往会看图的模型里发一张照片或一段语音,消耗的额度要先按规则换算,各家模型的换算比例不同,这套账本记的就是多模态折算率。
基座模型指只完成预训练、还没学听指令的模型,聊天应用背后是它的后训练版本。下载模型前分清这两者,差的那一步就是基...
量化格式是给模型权重降精度存的档位规则,Q4、Q8 这些数字就是档位编号。下载本地模型时,文件名里读的就是量化格...
GGUF 是把模型权重、分词器和配置打包成一个文件、方便本地运行的格式,llama.cpp 生态常用。本地跑模型...
老的权重格式在加载时可能执行文件里夹带的代码,safetensors 只存数字不带逻辑。讲清它的存法、与 GGU...
MoE 模型宣传页上的总参数和激活参数是两个数,日常速度和显存压力看后者。这篇入门讲清两者区别、图书馆类比的失效点,...
模型仓库页顶部那份说明文档就是模型卡片,作用类似家电参数表。本文讲清卡片栏目怎么读、自述式说明书的局限,以及下载前必...
AI 产品运营是随大模型产品兴起的新岗位。这篇讲清它在团队中的位置、四类日常事务、增长与留存指标怎么读,以及和算法团...
AI 时代的管理者不必学编程,但需要判断力。这篇讲任务是否交给模型的判断方法、产出质量下限的识别、团队分工重排与合规...
中小学 AI 课围绕感知、理解、应用展开。这篇按学段拆解课程主线、动手环节的样子,纠正两个常见误读,并给家长可上手的...
AI 键盘、输入法、助手常被混为一谈,其实入口不同能力不同。这篇讲三类入口各管什么,并按写作、翻译、搜索场景给出选法...
车机里的 AI 助手不等于手机助手搬进车里。这篇讲智能座舱现在能做什么、语音交互的特殊性,以及现阶段的边界与常见误解...