跳到主内容

AI基础百科

共1972篇文章

AI基础百科栏目解释 AIGC、提示词、Agent、RAG、Token、模型、工作流、检测与认证等常见概念,适合新手快速补齐 AI 工具使用前的基础知识。

文章分类
排序方式

最新发布

什么是排队机制?高峰期的先后规则

高峰期提问变慢,背后是排队机制在安排先后:超容量的请求按规则等位,先到先得之外还有短优先和付费优先,错峰提问最管用,规矩都在排队机制。

AI基础百科

什么是对话截断策略?历史怎么裁剪

对话越长越记不住开头,是对话截断策略在裁剪历史:窗口装不下时按规则丢旧留新,关键信息要复述才保险,根子在对话截断。

AI基础百科

近期文章

什么是每秒 token 数?TPOT 与吞吐

答案往外蹦的速度叫每秒 token 数,缩写 TPOT,衡量单个请求的输出节奏;吞吐是系统总运力,两个数分开记,...

AI基础百科

什么是连续批处理?动态插队的调度

请求还没生成完,新来的就能插进来一起算,这种不等整批清空的调度叫连续批处理,它让算力席位不空等,提升的是系统吞吐...

AI基础百科

热门排行

更多文章

  1. 什么是预填充?首字延迟从哪来,新手版入门

    大模型开口前要先通读整段输入,这段准备叫预填充,耗时随输入变长而增长,首字慢多半是读得慢,精简输入换秒回,充足背景换...

  2. 人类偏好为什么会有分歧?标注员也不一致

    同一个问题哪个回答更好,标注员常常给不出统一答案,分歧来自任务主观性、背景差异和指南模糊三方面,本文聚焦偏好分歧。

  3. 奖励模型为什么会「被钻空子」?奖励作弊

    奖励模型只是人类偏好的代理,策略模型一旦摸到代理的漏洞就能刷高分不出好活,本文讲清作弊机制与四类防范,聚焦奖励作弊。

  4. 自我训练是怎么回事?模型出题模型做

    自我训练让模型出题、模型答题、模型把关筛选,循环转起来扩量便宜,但怕分布坍缩和错误自我强化,本文聚焦自我训练。

  5. 继续预训练怎么避免「忘本」?混旧数据的配方

    继续预训练灌领域语料时容易把通用能力冲掉,配方是新旧数据按比混训、小学习率、双基准评估这一套,本文聚焦混旧数据。

  6. 领域微调的数据从哪来?内部资料的整理

    领域微调的数据多来自内部资料:文档、工单、FAQ 和会议记录,经清洗、脱敏、构造指令对才能用,本文聚焦领域微调数据。

  7. 代码微调有什么讲究?注释与上下文

    代码微调与自然语言不同:强依赖文件级上下文、注释是语义桥梁、格式极其敏感,切分与构造都有专门讲究,本文聚焦代码微调。