跳到主内容

AI百科

共3606篇文章

AI百科聚合面向中文用户的 AI 工具教程、评测对比、场景方案、基础知识、产品快讯和资源合集,帮助用户快速了解工具怎么用、怎么选、适合什么场景。

文章分类
排序方式

最新发布

KV 缓存是怎么随对话变大的?一笔内存账

长对话越聊越慢、越聊越贵,大头开销常在 KV 缓存。本文按层数、宽度、精度逐项拆解这笔内存账怎么随对话变大,看完就能算清自己这笔内存账。

AI百科

采样是怎么从概率里挑字的?完整的一步

模型每写一个字都先端出一整张概率表,采样就是从中挑字的动作。本文完整拆解出表、筛选、加权抽取、接续循环的每一步,看清它怎么从概率里挑字。

AI百科

近期文章

分词器的词表是怎么训练出来的?

词表是大模型切字的依据,却极少有人见过它怎么诞生。本文逐步拆解分词器从语料统计、合并循环到字节兜底的训练过程,看...

AI百科

热门排行

更多文章

  1. 什么是消息列表?一次请求里 messages 的结构

    一次AI请求背后是一个messages数组,本文拆解消息列表的角色分工、排列顺序与常见坑,新手也能一次读懂消息列表结...

  2. 什么是输出上限?max_tokens 截断的规矩

    大模型回答写到一半突然消失,多半是 max_tokens 到顶。本文讲清输出上限管哪段、截断信号与估算方法,判断问题...

  3. 什么是上下文计费梯度?长文为什么有阶梯价

    同样是问 AI 一个问题,长文档为什么更贵?本文用快递重量段类比上下文计费梯度,讲清分档逻辑与省钱判断,看懂阶梯价的...

  4. 什么是思考 token?可见思维链也计费

    推理模型回答前会先展示一段思考过程,这些思考token同样按量计费。本文讲清草稿为什么收费、何时该关,看完就能用明白...

  5. 什么是领域特化模型?代码数学法律各有所长

    通用大模型聊什么都会一点,专业活却常露怯,领域特化模型往单一方向加练,代码数学法律已有成熟款,选前先测通用能力是否缩...

  6. 什么是小参数模型的甜点位?7B 档为什么流行

    想在自己的设备上跑 AI,先算清参数量与显存这笔账,小参数模型的甜点位指效果不崩又带得动的区间,7B 档因工具链成熟...

  7. 什么是字节级分词?生僻字和 emoji 的处理

    AI 把生僻字拆成怪符号、数不准字数,多半和字节级分词的设计有关,词表装不下的字符会被切成字节小块兜底,理解这一点,...