跳到主内容

AI百科

共3606篇文章

AI百科聚合面向中文用户的 AI 工具教程、评测对比、场景方案、基础知识、产品快讯和资源合集,帮助用户快速了解工具怎么用、怎么选、适合什么场景。

文章分类
排序方式

最新发布

推理框架的调度器是怎么工作的?

请求进来先排队、凑批、上卡、返回,每一步都有人安排。本文按一个请求的完整旅程拆解规则与常见策略,认识推理服务里的调度器

AI百科

近期文章

显存是怎么被占用的?权重缓存激活

权重常驻、激活随批次波动、缓存随上下文增长,一块显存被三方分掉。本文按机制逐项拆账并给出估算口诀,三大来源决定显...

AI百科

热门排行

更多文章

  1. 什么是蓝绿部署?两套环境切换,通俗版解释

    一套在跑一套待命,新版本先上待命环境,验证后整体切流量,出问题秒级切回。本文用后厨类比讲清切换逻辑与数据兼容前提,帮...

  2. 什么是模型 A/B?两套模型对比

    两套模型同时在线、按组分流、同一批请求下比效果,差距够大才能下结论。本文讲清分流做法、条件对齐与样本量门道,帮你安排...

  3. 什么是容量规划?算力是怎么预留

    峰值多大、余量留多少、什么时候补货,算力的账要提前算。本文用年会摆桌作类比讲清估算思路与常见偏差,把容量规划做在前面

  4. 什么是成本归集?哪个业务花的钱

    模型调用、显卡租用、存储带宽,钱花在哪要能落到业务头上。本文讲清归集口径、打标方法与常见误区,让每笔支出都对上成本归...

  5. 什么是预留与按量?两种计费方式

    包年包月单价低但资源占用死,按量即开即用但单价高,怎么配要看流量形状。本文讲清两种计费方式的账,帮你给预留与按量分好...

  6. 什么是竞价实例?低价但有条件,别再混淆了

    价格低一大截,代价是可能被临时回收,适合能中断的离线任务。本文讲清回收机制、检查点与任务选型,用没用对竞价实例一看便...

  7. 蓝绿和灰度有什么区别?边界一次说清

    新版本上线是整套换掉还是小步放量?本文对比蓝绿和灰度的切换动作、回滚速度与影响面上的差别,帮你把蓝绿灰度说清楚。