先给结论:大模型算力里,能承受随时被打断、任务可拆可续的负载,用竞价实例,折扣深;要求不间断、长期在线的服务,用预留实例,稳定有承诺。竞价实例和预留实例的区别,核心在「回收风险」和「折扣幅度」这一进一出。
先把概念立住。竞价实例是供应商把闲置算力折价出售,价格随供需浮动,代价是资源紧张时可能被提前回收;预留实例是承诺一段使用时长换取稳定折扣,资源归你独占到承诺期结束。DeepSeek 这类模型的微调任务为什么常听说用竞价跑?就是因为训练任务可断点续跑,扛得住回收。
先给结论:谁的活适合竞价
三类活适合竞价:批处理任务,跑完就撤,被打断重跑也不心疼;可断点的训练与微调,定期存档进度,回收后接着跑;有状态的容错服务,多副本部署,丢一个副本流量自动挪走。三类活不适合竞价:对外服务的常驻实例、单点无副本的任务、无法断点续跑的长流程——这些场景一旦被回收,用户体验或进度直接受损,省下的折扣填不平损失。
被回收的风险怎么理解
竞价实例的回收不是随机捣乱,而是有规则的:当其他客户愿意出正常价租用这些资源时,供应商会按约定提前通知并收回竞价实例。通知窗口通常以分钟计,短到不可能人工响应,所以工程上必须自动化应对——监听回收通知、自动保存状态、把任务迁移到别的实例。风险的本质是「你用的是别人的余量」,余量消失时,价格优势随之中断。ModelScope 社区里不少自部署教程都会强调断点保存机制,就是冲着这个风险去的。
预留实例换来了什么
预留换来的是确定性和折扣的平衡:资源独占、不回收,价格比按量低、比竞价高。它适合构成服务的「底盘」——常驻的推理实例、数据库、消息队列这类退场就出事故的组件。海螺AI 等托管服务对外承诺的稳定响应,背后正是这类确定性资源在支撑。选预留的判断依据和「预留与按量」的对比逻辑一致:长期稳定的负载才值得承诺。
两种买法的资源来源、价格和中断风险并排看,差别就清楚了。
| 对比项 | 竞价实例 | 预留实例 |
|---|---|---|
| 资源来源 | 供应商的闲置算力,价格随供需浮动 | 承诺一段使用时长换取折扣,资源独占 |
| 价格 | 折扣最深 | 比按量低、比竞价高 |
| 中断风险 | 资源紧张时被提前回收,通知窗口以分钟计 | 不回收,承诺期内归你独占 |
| 适合负载 | 批处理、可断点训练与微调、多副本容错服务 | 常驻推理实例、数据库、消息队列这类底盘组件 |
| 工程要求 | 监听回收通知、自动保存状态、迁移任务 | 长期稳定的负载才值得承诺 |
怎么组合着用
成熟的算力组合是三层结构:预留实例垫底,承载不可中断的基线服务;按量实例补日常波动;竞价实例吃掉可中断的批任务和实验负载,把成本再压一档。分配比例按负载性质定——批任务占比高的团队,竞价能省下一大块;服务型负载为主的团队,竞价比例就该压低。每季度回看各类实例的实际利用率,把错配的挪回正确的层。
竞价与预留对照表
- 价格:竞价折扣最深但可被回收,预留折扣适中且独占
- 风险:竞价要自动化应对回收,预留怕为闲置付费
- 适合:可断点任务用竞价,常驻服务用预留
- 组合:预留垫底、按量补波动、竞价吃批任务
组合方案落地时,还有相邻问题要一并想。预留和按量的基础对比,见预留和按量有什么区别?一张表分清;发布切换走哪条路,参考蓝绿和灰度有什么区别?边界一次说清;私有化部署的资源形态,看私有化和混合部署有什么区别?各自的适合场景;边缘侧的算力取舍,在边缘和云端推理有什么区别?选型不再纠结。
聊聊竞价实例的常见疑问
- 竞价被回收后数据会丢吗?:本地盘数据随实例消失,挂载的独立存储和提前存档的进度不受影响,所以关键状态绝不留在实例本地。
- 价格波动怎么应对?:设出价上限,超过就自动换区域或退回按量,把预算封顶写进自动化脚本。
- 测试环境适合竞价吗?:非常适合,测试负载天然可中断、时间碎片化,是竞价最典型的受益场景。


