同样一句话问两遍,AI 给的答案可能不一样——这背后有个参数在起作用,叫「温度」。它控制的是模型回答的随机性:温度越低越保守稳定,越高越发散出人意料。搞懂这一个旋钮,你就理解了「时好时坏」的大部分来源。
温度到底控制什么
模型回答时,从来不是只有唯一答案,它会在一堆可能的词里挑。温度就是「挑的时候有多保守」的旋钮。它调的不是内容本身,而是概率分布的形状——温度低,高概率的词被进一步放大,模型几乎只挑最稳的那个;温度高,概率差距被抹平,冷门词也有机会冒出来。
这个「按概率挑词」的机制,发生在模型的前馈网络那一层之后的采样环节。你看到的每次措辞不同,根源就在这里。
一个掷骰子的比喻
把模型选词想象成掷一个被做手脚的骰子:温度低,它几乎只落在概率最高的那个面上,结果稳定、可预期;温度高,它也愿意落在一些概率低的面,结果更发散、更出人意料。温度不是「对错开关」,它是「保守与冒险」的刻度。
低温和高温各适合什么
- 低温适合:事实问答、写代码、翻译、数据整理——要的是稳定和准确。
- 高温适合:起名、写创意文案、头脑风暴——要的是多样和新鲜。
一句话判断:你要的是「一个可靠答案」,就压低;你要的是「十个不同想法」,就抬高。同一件事对温度的诉求可能相反,先想清楚自己到底要哪个。
实际使用里,很多人把「答案忽好忽坏」全怪到温度头上,其实不然。同样的问题、同样的温度,换一种提问方式,稳定性也会差很多。把需求写清楚、限定输出格式,往往比反复调参数更有效。
按场景选温度
| 场景 | 建议温度 | 判断标准 |
|---|---|---|
| 事实问答、查资料 | 偏低 | 多次回答一致、不跑偏 |
| 写代码、翻译 | 偏低 | 输出稳定、可直接使用 |
| 起名、写创意文案 | 偏高 | 方案之间有差异、有新鲜感 |
| 头脑风暴 | 偏高 | 方向多、覆盖面广 |
表里的「建议温度」是相对高低,不是具体数值。不同产品对温度的档位定义不一样,具体以官方文档为准,别死记一个数。
top_p 和温度什么关系
还有一个相关参数叫 top_p,作用类似,也是控制「从多大范围里挑词」。区别在于:温度是调节概率分布的形状,top_p 是直接划定候选范围——比如只从累计概率覆盖到前百分之多少的词里挑。对普通用户来说,知道它们是同一类「随机性旋钮」就够了,具体取值以官方文档为准。
除温度和 top_p,还有别的旋钮会影响回答,比如采样方式、最大生成长度,以及模型本身的版本。对普通用户来说不必全记,只需记住:温度只管「稳不稳」,不管「对不对」——答案错了往往是知识或推理的问题,调温度解决不了。
为什么你平时看不到这个参数
大多数面向普通用户的产品,会把温度藏在后台,或者按场景预设好——聊天时略高、代码模式更低。你看到的「时好时坏」,很多就是它在不同模式下用了不同的温度。想手动调,通常要去支持高级参数的入口里找,本地模型和云端模型在参数开放程度上也有差别,本地模型和云端模型的体验差异里能看到一部分原因。
不调参数也能压住抖动
想要稳定结果,除了调温度,还有更简单的办法:把问题问得更具体,并要求它「只给一个答案,不要备选」。约束给足了,随机性带来的抖动就小。反过来,如果它开始「胡说」,先别急着怪模型,检查一下是不是上下文塞得太满触发了压缩,上下文满了会发生什么讲的就是这种遗忘。
速查:温度怎么用
- 要稳定,就降低温度,并把问题问具体。
- 要创意,就升高温度,让答案发散。
- 答案忽好忽坏,先看是不是温度和提问方式在作怪。
- 记住温度管随机性,不管对错。
温度不是玄学,是一个可调、可预测的参数。看懂它,你对 AI 的回答就不再是「碰运气」,而是知道该往哪个方向拧旋钮。


