跳到主内容

AI基础百科

共1972篇文章

AI基础百科栏目解释 AIGC、提示词、Agent、RAG、Token、模型、工作流、检测与认证等常见概念,适合新手快速补齐 AI 工具使用前的基础知识。

文章分类
排序方式

最新发布

什么是预留与按量?两种计费方式

包年包月单价低但资源占用死,按量即开即用但单价高,怎么配要看流量形状。本文讲清两种计费方式的账,帮你给预留与按量分好工

AI基础百科

什么是算力空转?利用率不满的浪费

显卡开着、任务没排满,利用率数字上不去就是在白烧钱。本文讲清三种典型的空转姿势、读数方法与应对思路,别让算力空转偷走预算

AI基础百科

近期文章

什么是模型 A/B?两套模型对比

两套模型同时在线、按组分流、同一批请求下比效果,差距够大才能下结论。本文讲清分流做法、条件对齐与样本量门道,帮你...

AI基础百科

什么是容量规划?算力是怎么预留

峰值多大、余量留多少、什么时候补货,算力的账要提前算。本文用年会摆桌作类比讲清估算思路与常见偏差,把容量规划做在...

AI基础百科

什么是成本归集?哪个业务花的钱

模型调用、显卡租用、存储带宽,钱花在哪要能落到业务头上。本文讲清归集口径、打标方法与常见误区,让每笔支出都对上成...

AI基础百科

热门排行

更多文章

  1. 什么是蓝绿部署?两套环境切换,通俗版解释

    一套在跑一套待命,新版本先上待命环境,验证后整体切流量,出问题秒级切回。本文用后厨类比讲清切换逻辑与数据兼容前提,帮...

  2. 本地部署和私有云有什么区别?各自的适合场景

    数据想自己攥在手里,又嫌机房电费和运维费劲?本文对比本地部署与私有云在数据流向、运维负担、扩容路径上的差异,把本地部...

  3. 量化部署和原精度有什么区别?取舍

    同样的模型,压缩之后小了一半,回答质量却让人心里打鼓。本文对比量化部署和原精度在精度损失、显存占用、吞吐上的取舍,把...

  4. 单卡和多卡有什么区别?选型不再纠结

    负载一涨就想加卡,加了卡速度却不按倍数涨,问题多半出在通信上。本文对比单卡和多卡在通信开销、并行方式与故障半径的差异...

  5. 推理框架之间是怎么比的?分界点在哪

    同样是跑推理,不同框架的吞吐能差出一大截。本文给出推理框架之间怎么比的方法:吞吐延迟、量化支持、社区生态逐项看,挑中...

  6. 直连和经网关有什么区别?适用场景分开讲

    请求直接打到服务上最快,可出了事没有缓冲。本文对比直连和经网关在链路延迟、鉴权限流与故障排查上的差别,分清直连网关的...

  7. 预留和按量有什么区别?一张表分清

    流量曲线平稳就该包月,忽高忽低就该随用随付?本文用一张表分清预留和按量的计费逻辑、适用负载与切换门槛,让预留按量选对...