大模型太大、跑不动，是本地部署最常见的抱怨。稀疏化和剪枝是两条常见的瘦身路线，但一个改走法，一个改结构，效果和适用场景完全不同。
结论先行：稀疏化改走法，剪枝改结构
想让模型跑得动又要保住能力：如果算力只够激活一部分参数，走稀疏化路线，参数都留着、每次只用一小把；如果部署环境对体积和访存敏感，走剪枝路线，直接拿掉不重要的连接和权重。
两个词条常被混为一谈，其实它们动刀的位置不同：稀疏化动的是每次用多少，剪枝动的是总共留多少。理解这一点，再看模型卡片上的各种瘦身描述就不会糊涂。
这里的分界线可以这样记：问自己「我是缺算力，还是缺体积」。显卡还行但想跑更大的模型，走稀疏化；模型能跑但装不进设备、加载太慢，走剪枝。两种痛点对应两种工具，混用往往两头不讨好。
两条路线动刀的位置、代价和门槛，逐项对一遍。
| 对照项 | 稀疏化（以 MoE 为代表） | 剪枝 |
|---|---|---|
| 动的是什么 | 每次用多少：参数全留，每个 token 只经过少数专家 | 总共留多少：按重要性删掉连接、通道甚至整层 |
| 瘦身后的形态 | 仍是大模型，只是单次激活一小部分 | 变成更小的稠密模型，参数量与体积一起降 |
| 训练时机 | 训练阶段就按稀疏目标设计 | 训练完成后压缩，再微调恢复精度 |
| 主要代价 | 路由、通信、显存管理都要重新设计 | 能力上限被压低，剪得越狠损失越明显 |
| 什么信号该选它 | 显卡还行，但想跑更大的模型 | 模型能跑却装不进设备、加载太慢 |
稀疏化：参数都在，每次只醒一小部分
稀疏化的代表用法是 MoE：模型里有几十上百个专家，总参数量很大，但每个 token 只经过其中几个。总容量和单次计算被拆开，这是它和普通稠密模型最本质的差异。
它适合训练阶段就按稀疏目标设计的模型，好处是容量上限高、能力保留完整；代价是工程复杂度高，路由、通信、显存管理都要重新设计。专家数怎么挑，可以看8 个和 64 个专家的 MoE 差异。
对使用方来说，稀疏化模型最直观的体验是「参数很大、跑得却不慢」。但也别被总参数迷惑：能不能在你的显卡上跑起来，看的是显存需求和通信带宽，而不是纸面参数量。
剪枝：直接拿掉不重要的连接
剪枝走的是另一条路：训练完成后，按重要性指标（权重幅值、激活贡献等）把不重要的连接、通道甚至整层删掉，再微调恢复精度。它的产出是一个更小的稠密模型，参数量、文件体积、访存压力一起降。
剪枝的好处是即插即用，瘦完的模型在普通硬件上就能跑，不需要特殊调度；代价是能力上限被压低，剪得越狠损失越明显，通常需要一轮再训练来补。
两种路线对硬件友好度不同
稀疏化后的模型虽然激活量小，但权重仍然全部驻留显存，还要处理专家路由和跨卡通信，对工程栈要求高。剪枝后的模型体积和访存同步下降，对消费级显卡、边缘设备更友好。文心一言、豆包的模型列表里，常能看到同一模型对应多个规格的部署版本，挑选时先看体积与显存要求，就能大致判断走的是哪条路线。
- 动刀对象：稀疏化改激活比例，剪枝改参数总量
- 瘦身后形态：稀疏化仍是大模型少激活，剪枝是小模型全激活
- 硬件要求：稀疏化吃显存和通信，剪枝对普通显卡更友好
- 适用阶段：稀疏化适合训练前规划，剪枝适合训练后压缩
版本挑选时还可以参考模型仓库的分支和版本怎么选，成本与规格的关系可以对照满血版和蒸馏版的差别。
还要提醒的是，瘦身路线和量化并不冲突。剪枝之后的模型通常还会再做一轮量化，两种手段叠加，才能把体积压到消费级显卡能轻松装下的水平。看到「瘦身版」三个字，不妨再问一句：它剪过没有，量化到哪一档。
关于稀疏化和剪枝，问得最多的三个
- 两种路线能一起用吗？：可以，先按稀疏目标训练，再对激活专家做剪枝，但调优难度会叠加，建议一步步验证。
- 剪枝后的模型还能再微调吗？：能，剪枝通常配套一轮再训练，用原有数据恢复被剪掉的能力。
- 普通用户该怎么选瘦身版？：只看文件体积和显存需求，体积优先选剪枝版，追求同等算力下的表现可以留意稀疏化版本。
