国产大模型 API 对比：开发者怎么选

选国产大模型 API，先别打开参数对比页。开发者真正要回答的是三个问题：我的请求长什么样、每个月大概调多少次、出错时能承受多大的返工。这三个答案定了，候选清单会自动缩到两三个，剩下的靠压测决定。下面这套顺序，比盯着榜单看更能省下试错时间。

先把请求画像画出来

把线上调用按任务类型分堆：短文本分类、结构化抽取、长文档问答、代码生成、多轮对话。每一堆记录三个数：输入 token 的量级、输出 token 的量级、每天调用次数。这三项决定了成本结构，也决定了你需要什么样的模型。

一个常被忽略的差异：输入和输出的计价不一样。长文档问答是输入重、输出轻，代码生成反过来。同一个模型，换一种任务，单次成本可能差出好几倍。API 价目表里输入输出为什么不同价讲的就是这套机制，先看懂再比价，能避开不少误判。

四个维度，权重不一样

能力匹配排第一，但能力要拆开看：指令遵循、结构化输出的稳定性、长上下文里的定位能力、中文表达。榜单分数高，不代表你的任务上表现好。要求严格输出 JSON 的场景尤其明显，差一点点就得在外面套一层重试逻辑，成本和延迟都跟着涨。

上下文窗口排第二。处理合同、财报这类长文档，窗口不够就得先切分再拼接，切分本身带来信息丢失。窗口够但检索不准，同样会漏，所以窗口和长文定位能力要放在一起看，单看一个数字没意义。

稳定性排第三，也最容易在试用期被忽略。要问清楚四件事：并发上限是多少、限流按请求数还是按 token 计、超时怎么计费、有没有服务等级约定。这些参数在演示阶段看不出差别，上线第一天就会撞上。

价格要折算成每次请求多少钱

百万 token 的单价只是原料价。实际成本等于单价乘以平均长度，再乘以重试率。一个便宜三成但需要重试两次的模型，总成本反而更高，还多占了工程时间。

算一遍自己的账：单次请求平均输入多少 token、输出多少、一天多少次。三项相乘，得到一个可比的数字。这个数字才是选型时该盯的指标，也是后面做多模型混用的分界线。

比价还有一层：不看单价、看用量的比价方法，把缓存命中率、批量折扣、阶梯价一起算进去，结论常常和价目表相反。

多模型混用怎么切

切分原则不按价格，按「错了要不要紧」。错了不要紧、量又大的任务，比如打标签、做摘要、判断意图，交给便宜的小模型；错了代价高的任务，比如生成给客户看的方案、写要上线的代码，走强模型。写代码这一类的挑法，补全、问答与调试该怎么分工里有更细的拆法。

中间加一层判断：先用小模型跑，置信度低或者输出不合格式，再转给强模型。这一层要设阈值，也要设上限，否则一次故障会把所有请求推到贵的那一档，账单会在第二天早上给你惊喜。

统一接口是混用的前提。多数平台提供 OpenAI 兼容格式，切换模型往往只改 base_url 和 model 两个字段。要注意兼容的是接口形状，不是行为：同样的提示词，不同模型对系统指令的遵从度、对 JSON 模式的严格程度都不一样，切换后必须重跑一遍回归用例。

五类任务的配置参考

这张表的作用是缩小试用范围：先按任务类型找到对应档位，再在同档位里比价格和稳定性，不用把全部候选都跑一遍。

试用顺序：先压测，再签

给自己定一个三天的小流程。第一天用真实数据跑 50 条，看输出质量；第二天把并发打到预估峰值的两倍，看限流和延迟；第三天故意喂脏数据，看它怎么错。三天能筛掉大部分不合适的选项。

压测要看尾部延迟。平均值好看、百分位难看的服务，用起来一样差，因为用户记住的永远是慢的那几次。

三种情况不必换模型

一是问题出在提示词。输出格式不稳，往往是约束没写清，换模型只是换一种错法。二是问题出在数据。检索到的资料本身是旧的、错的，再强的模型也只能照着错。三是调用量还没起来。每月几千次调用，优化工程结构的回报远大于省下的那点单价。

反过来，如果尾部延迟长期压不下来、限流频率随业务增长上升、或者某类任务的重试率始终高于一成，那就该认真评估迁移了。迁移成本主要是回归测试和提示词重调，通常按周计，按天算不过来。

选型速查

• 先画画像：输入长度、输出长度、日调用量
• 成本公式：单价 × 长度 × 重试率，不是单价本身
• 混用分界：错了要不要紧，而非贵不贵
• 上线前必问：并发上限、限流口径、超时计费

价格和能力变化很快，具体参数、计费方式与可用区域以各平台官方最新版本为准。