百川智能的开放平台提供多款自研大模型的调用接口，选型时真正要记的不是型号名，是“什么场景配什么规格”。同一套业务，把任务复杂度、延迟要求、成本预算三项排出先后，答案基本就出来了；排不出先后，说明需求本身还没想清楚。
选型先排序，不先看榜单
三个约束互相拉扯。任务越复杂，通常要更大的规格，延迟和单价跟着上去；面向用户的实时场景，两百毫秒的差别就能被感知；预算决定你能不能用“大规格加多次重试”这种笨办法。先确定哪一项不可让步，再谈型号。
实用做法是给三项各设一个必须满足的下限，而不是打分求和。求和会把关键约束稀释掉，下限法能直接筛掉不合适的规格，也方便跟业务方解释某个选项为什么被排除。
角色场景的设定四要素
角色类应用的效果差异，大半来自设定，不来自规格。设定要写四件事：身份与关系（你是谁、跟用户什么关系）、语气与用词（句子长短、是否用敬语、能不能开玩笑）、知识边界（知道什么、被问到边界外怎么答）、拒答方式（固定话术，避免每次不一样）。
设定越模糊，输出越像通用助手，角色化的投入就白花。反过来，设定写得越具体，越要用真实对话验证，因为具体设定之间会打架，比如“说话简短”和“解释清楚”经常冲突。
现成的角色设定模板可以拿来改编，改法见DeepSeek 官方提示词库值得抄吗，重点是把模板里的通用描述替换成你的业务字段。
角色设定核对单
- 身份与关系：一句话说清对谁说话
- 语气样本：给两句正例、一句反例
- 知识边界：不知道时怎么答，写死
- 拒答话术：固定一句，不必每次生成
四类场景的规格方向
| 场景 | 规格方向 | 判断标准 | 代价 |
|---|---|---|---|
| 意图分类、打标 | 小规格、高并发 | 边界样本准确率达标，延迟稳定 | 长尾样本要人工兜底 |
| 角色陪聊 | 中等规格加强设定 | 二十轮后仍不失人设 | 上下文越长，单次成本越高 |
| 长文摘要、多文档比对 | 大规格、长上下文 | 关键段落不漏，能给出处 | 单价高，需要分批与合并 |
| 语音角色 | 低延迟优先 | 首字返回可感知地快 | 语音链路另有成本 |
这张表不能替你决策，但能帮你把讨论从“哪个模型厉害”拉回到“我的场景卡在哪一列”。
接入准备与五十条验证
接入前备五件事：凭证、环境、日志、限流、降级。凭证不写死在代码里，用环境变量或密钥管理；日志记录输入摘要、耗时、用量，出问题才有据可查；限流与重试设上限，避免异常时把额度打光；降级路径提前定，主模型超时切哪个备用。
验证用五十到一百条真实输入，覆盖正常、边界、异常三类，两个人独立看“能不能直接用”。同时记三类失败：答非所问、答得对但没法用、答得流畅但事实错。第三类最危险，用户不会立刻发现。
验证的目标不是证明它行，是找到它不行的边界。找到之后，产品上要么加人工确认，要么在提示里把范围收窄。
它做不到什么
角色一致性随轮次衰减，二三十轮后人设漂移是常态，设定只能减缓；知识有截止时间，问近期事件容易编，涉及事实的回答要外接检索；它很少主动说不知道，被追问时更愿意顺着你的话往下接；内容安全审核不能省，角色越开放，边界话题越容易出问题。
还有一笔容易漏算的成本：角色产品通常要配语音，合成与识别是另一条链路，延迟和费用都要单独评估，长文本转语音的做法见讯飞开放平台的语音合成怎么用。
什么信号说明该换规格
三个信号：同样的提示词，失败集中在需要多步推理的任务上；用户反馈集中在“答得太浅”；人工兜底比例持续高于预期。这三种加规格通常有效。反过来，失败集中在格式不稳、答非所问，换规格多半没用，该改的是提示词和输入结构。
模型之间的能力差距在收窄，选型时把“能不能稳定跑通我的五十条测试”放在“榜单第几名”前面。推理型模型什么时候值得开，判断逻辑相通，见DeepSeek 的深度思考什么时候开。
接入期最常问的三件事
一个模型能不能同时做角色和工具调用。能，但人设和工具指令会互相干扰。更稳的做法是分两条链路，角色链路不带工具，工具结果由系统注入成一句系统提示。
微调是不是比写设定有效。风格要求极稳定、手里有几千条高质量对话时，微调值得做；数据不够，微调会把噪声一起学进去，效果不如设定加少量示例。
怎么防止用户把角色带偏。三层：设定里写死边界、每若干轮插入一次系统提醒、输出侧做意图过滤。三层都不做，只写“请保持人设”基本无效。
