挑手机时看到「端侧大模型」的宣传，回头又看到「小模型更省钱」的说法，两个词撞在一起就糊涂了。它们量的其实不是同一件事：大与小比的是参数规模，端与云比的是跑在哪。两个坐标轴一交叉，能划出四种组合，混着比就会问出「端侧模型和大模型哪个好」这种没有答案的问题。下面把三个词放回各自的坐标里，说清每层适合什么、代价在哪。
三个词量的是两件事
参数规模决定能力上限，也决定跑起来要多少算力；部署位置决定数据去哪、延迟多少、能不能离线。同一个模型可以同时是「大」和「端侧」：把一个大模型量化、剪枝之后塞进手机，规模还在，位置变了。所以这几个标签之间不互斥，各自回答不同的问题。
按这个分法，选型第一步就该问数据能不能出设备。能，就在云端的规模档里挑；不能，就只能在设备跑得动的范围里挑，然后接受能力打折。跳过这一步直接比效果，比出来的结论用不上。
四层，规模、场景与代价
| 层级 | 典型规模 | 适合场景 | 代价 |
|---|---|---|---|
| 云端超大模型 | 数百亿参数以上 | 复杂推理、长文档理解、代码生成、需要多步思考的任务 | 单次调用贵，首字延迟高，自建要集群和运维 |
| 云端中等模型 | 数十亿到百亿级 | 客服问答、摘要、翻译、结构化字段抽取 | 难任务上明显弱一档，长尾问法错得多 |
| 云端小模型 | 十亿级及以下 | 分类、打标签、意图识别、批量改写 | 只能做窄任务，换个领域往往要重新调 |
| 端侧模型 | 通常十亿级以下，量化后更小 | 输入法联想、离线翻译、本地相册检索、隐私敏感文本 | 占内存、耗电、发热，更新跟着发版走 |
表里最后一列才是决策依据。规模每降一档，单位成本大约降一个数量级，能力也降一档，但降幅因任务而异：分类、抽取这类窄任务上，大小模型差距很小；多步推理、长文档理解上，差距一眼可见。所以够不够用必须拿自己的任务测，榜单只能当参考。表里的规模数字只是量级参照，档与档的边界一直在移动。
规模为什么能换来能力
参数多，能同时容纳的模式就多，处理需要并行考虑很多条件的问题时不容易顾此失彼。这条经验被总结成规模定律：损失随参数、数据、算力的同步增长平滑下降。它描述的是平均趋势，具体任务未必跟着涨，涨了也未必划算。
反过来，小模型不是大模型的等比缩小。压到十分之一，丢掉的主要是长尾知识，保住的是高频模式。所以它在说法固定、类别有限的任务上表现接近，在需要临场推理的任务上掉得很快，规模定律到底在说什么里有更完整的曲线解释。
端侧真正的卖点是数据不出设备
隐私和离线常被混为一谈。隐私指内容不离开设备，离线指没有网络也能用。前者是合规与信任问题，后者是可用性问题。真正必须端侧的，多数是前者：病历、合同、身份信息、内部会议记录。
代价要认全。端侧模型的更新跟着 App 版本走，云端换个版本第二天生效，端侧要等用户升级。设备算力参差，同一款模型在旧机型上会降频、发热、耗电明显。能力上限也低，需要多步推理的任务基本做不了，能稳定做的是单轮识别、改写、分类。
压缩让端侧大模型这个说法成立
量化把权重从高精度压到低精度，剪枝删掉贡献小的连接，蒸馏让小模型学大模型的输出分布。三条路都能把原本跑不动的模型塞进设备，代价是精度损失，损失多少要看任务和数据。量化到底压掉了什么和剪枝按什么标准删各有一套取舍。
宣传里说把大模型装进手机，多数走的就是这条路径：参数规模没变多少，精度和结构变了。判断一个端侧模型强不强，要看压缩之后的实际表现，不是它原始有多少参数。
选型顺序：先问数据，再问难度
第一步问数据能不能出设备。不能，就锁死在端侧，别再纠结效果差多少。第二步问任务是不是窄而明确。是，就用小模型，成本能差一个数量级。第三步才在剩下的范围里比能力上限。
顺序反过来有个典型后果：先用最大的模型跑通，上线后发现账单撑不住，再往回换，这时候提示词、评测集、阈值全要重调一遍。从小往大换的成本低得多，因为接口和行为基本兼容。
两个容易踩的误解
「参数多一定更好」在跨代比较里经常不成立，新一代的中等模型常打赢上一代的超大模型，所以比规模要在同一代里比。「端侧就是低端」也不对，端侧解决的是部署约束，不是能力等级，同一档能力放到设备上跑，换来的是隐私和更低的响应延迟。
还有一种误解是把小模型当便宜的大模型用，指望它做多步推理。它在第一步就漏条件，后面越推越偏，省下的调用费最后都变成返工。
速查：三个词各回答什么
- 大模型：回答能力上限，代价是钱和延迟
- 小模型：回答成本，适合窄而明确的任务
- 端侧模型：回答跑在哪，卖点是数据不出设备
- 同一模型可以同时占两个标签，压缩后的大模型放进手机就是例子
