大模型回答问题时,做的其实是同一件事:对每个候选结果分配一个概率,然后描述"哪些更可能"。承担这项工作的数学工具,就是概率分布。它把不确定性摊开来看:一件事有哪些可能结果、每种结果有多大概率,一次性分配清楚。看懂概率分布,你就看懂了 AI 输出里那些时好时坏、时而肯定时而犹豫的现象从何而来。
概率分布:把可能性分清楚
掷一枚六面骰子,六个面各占六分之一,这就是一个分布。天气预报说"明天降雨概率 70%",同样是一个分布:下雨占 70%,不下雨占 30%。分布有个硬性要求:所有可能结果的概率加起来必须等于 1。这是逻辑要求,不是数学洁癖——明天总得有一个天气,骰子总得朝上一个面。只要总和等于 1,剩下的概率怎么分配,就决定了这个分布"集中"还是"分散"。
大模型里的分布长什么样
让大模型接着写"今天天气很___",它不会只给出一个字,而是给词表里每个候选词都算出一个概率:比如"好"占 40%、"差"占 25%、"热"占 15%,其余候选词分摊剩下的 20%,全部加起来是 1。词表可能包含几万个词,这个分布在每一步生成时都会重建一次。生成一句话要连续走几十步,每一步都对应一个独立的分布,最后连起来才是你看到的那句话。
| 分布形态 | 典型数值 | 模型状态 |
|---|---|---|
| 概率集中 | 最高项 80% 以上 | 模型很有把握,输出通常稳定 |
| 概率分散 | 最高项不到 30%,多个词接近 | 模型在犹豫,最易出错 |
| 中间状态 | 最高项 40% 到 60%,有次高项跟随 | 有一定倾向,但仍可能切换 |
概率集中与分散,各意味着什么
概率集中,说明模型对"下一个词"很确定,这种时候输出稳定、不易出错;概率分散,说明模型在几个候选之间摇摆,这是最容易翻车的地方。很多 AI 生成中的"一本正经胡说"就发生在分布分散的时刻:模型没有把握,却仍要按最高概率选一个词说下去。所以判断一次生成可不可信,不能只看句子顺不顺,还可以间接感受它的"犹豫程度"——虽然普通用户看不到原始分布,但追问、换问法能帮你探出它到底有没有底。
抽样:为什么同一个问题答案会变
很多人以为模型输出是"查表选唯一答案",实际它是从分布里"抽样":概率高的词更容易被抽到,但并非百分之百被选中。同一个问题问两遍,答案不同,正是因为两次抽样走了不同的路径。所谓"温度"参数,调的就是这个分布的形状:温度越低,分布越尖锐、越偏向选最高概率项,输出越稳定;温度越高,分布越平坦、越可能抽到低概率项,输出越发散。这也解释了为什么同一个模型,调整采样参数后文风会明显变化。
除了温度,还有一种常见采样方式叫 top-p(核采样):每次只从累积概率达到阈值的那一小撮候选词里抽,避开在整个词表里随机选。把温度调低、top-p 收紧,输出就更稳定;两者放开,文本就更多样。理解这两个旋钮,就明白为什么同一个模型能写出风格迥异的段落。
最该记住的一句话
速查:看 AI 输出时的三个提醒
- 概率是模型内部的倾向,不等于客观正确率。
- 说得很肯定,只说明它选中了概率最高的那条路。
- 需要准确性的场合,核实这一步不能省。
概率分布能描述"模型倾向于说什么",却不能告诉你"这个说法是不是事实"。它做不到的,正是从"模型自信"跳到"内容可靠"之间的那一步——这一步只能靠外部核实来完成。理解了这一点,再去看大语言模型的原理,会发现"生成"本质上是一连串概率选择;视频生成里的抽卡之所以要反复抽,也是因为每次生成都在分布里走一条随机路径;连运镜词被模型理解这样的任务,同样依赖分布来决定每一步该输出什么。


