什么是大模型的「参数」？参数多就更聪明吗

大模型发布会的幻灯片上总有一个醒目的数字：多少亿参数。看的人多，说得清的人少。这个数字到底是什么、是不是越大就越聪明，直接影响你怎么挑模型、怎么理解厂商的宣传。这篇把它讲透：参数是模型的什么、它从哪来、什么时候重要、什么时候只是营销话术。

参数是模型里可调节的旋钮

把大模型想成一台有几十亿个旋钮的机器。每个旋钮记录一个微小的数值，决定模型处理语言时的某种倾向，比如看到"天空"之后，接"蓝"的概率调高还是调低。参数就是这些旋钮的统称，所谓 70B，意思是这台机器上有 700 亿个旋钮。

旋钮的数值不是人手调的，是训练出来的。训练过程给模型海量文本，让它一遍遍预测下一个词，猜错了就按误差方向微调所有旋钮，猜对了就保留。重复亿万次之后，旋钮的位置固定下来，语言里的规律就以数值的形式存了进去。训练结束，导出的权重文件里装的就是这些数值。

参数多带来什么

参数量直接影响三样东西。容量：旋钮越多，能容纳的语言模式越丰富，罕见的专业表达、多层逻辑关系更有地方放。表达精度：对细微差别的刻画更细，同样问一个复杂问题，大参数模型的回答层次感通常更强。成本：训练要花的算力和推理时占用的显存都随参数量上涨，这决定了你能以什么价格用到它。

容量这个特性也解释了模型为什么能瘦身：把参数的存储精度压缩，占用就小一圈，精度损失控制在很小范围内，多数场景察觉不到。相关机制可以看模型量化的原理，讲的就是参数怎么在不明显掉点的前提下省下显存。

参数多不等于更聪明

这是被误解最深的一点。参数量只决定模型能力的上限空间，能不能填满这个空间，取决于训练数据的质量和数量、训练方法、架构设计。同样 70 亿参数的两个模型，一个用清洗过的语料和充分的训练步骤，一个用粗糙语料半途收工，效果能差出好几个档次。

业界反复出现小模型配好数据跑赢大模型配差数据的情况。参数量像是汽车的排量：排量大通常意味着动力上限高，但实际表现还要看调校、车重和路况。评价模型也一样，参数量是个直观指标，不能等同于你在真实任务里的体验。

为什么宣传总爱提参数量

因为参数量容易量化、方便比较。100B 比 70B 大，一句话就能说清；而"在长文本推理上强出一截"需要解释基准和口径。于是发布稿里参数量被放在显眼位置，久而久之给人数字大就强的印象。

拆穿这个错觉的办法是看构成。现在主流模型多采用 MoE 架构，总参数量和每次推理实际激活的参数量是两个数，前者可能有几百亿，后者可能只有十分之一。只看总参数量去判断速度和费用，经常错得离谱。想弄清 7B 和 70B 之间的实际差距怎么衡量，可以参考参数量对比的方法。

看到参数宣传时的四步判断

先看架构：总参数和激活参数各是多少。再看同任务实测：拿你自己的问题去测，写一段你常用的文案、解一道你业务里的题，效果如何一试便知。然后看价格与部署成本：参数量推高的是使用成本，效果提升配不配得上成本要一起算。末了看替代项：同价位有没有更合适的模型。自己的任务实测一遍，比研究参数表有用得多。

参数量解释不了的几件事

参数量预测不了知识的新旧。模型的知识冻结在训练截止日，千亿参数里不会自动长出新规定、新价格，要靠联网检索或换新版本。参数量也预测不了胡编的概率，编造是生成机制的产物，参数再大也会出现，差别只在频率。参数量更不能说明中文场景的表现，训练语料的语言构成影响更大。这些都得靠实测确认，参数表上查不到。

另外两个相关选择值得对照。开源权重模型可以直接下载权重自己部署，参数量相同的情况下，自部署和调用 API 的体验差别主要来自工程而非模型本身，区别见开源权重模型的说明。而在免费版和付费版之间怎么选，起作用的往往不是参数量，而是额度和模型代际，判断标准看免费版与付费版的差异。

不同关注点的对照

这张表的用法：每次看到参数宣传，先对号入座找到你的关注点，照"该看什么"那一列逐项核对。

参数速查

• 参数是训练出来的数值旋钮，不是人手调的开关
• 参数量决定上限，数据和方法决定能不能到上限
• 比较模型先分清总参数与激活参数
• 自己的任务实测一遍，比参数表可靠

三个常被问到的问题

• 7B 级别的模型在自己电脑上跑得动吗？：取决于显存或内存大小和是否量化。量化后的 7B 级模型对硬件要求大幅降低，多数近年配的设备可以尝试，运行前先看官方说明的显存要求。
• 参数量和上下文长度是一回事吗？：两回事。参数量是模型的规模，上下文长度是单次能处理的文本量，两者相互独立，小参数模型也可能支持很长的输入。
• 为什么有的模型不公布参数量？：通常是商业考虑，也可能因为 MoE 等架构让单一数字概括失真。不公布时更应以自己任务的实测为准，别只听宣传。