你问ChatGPT同一个问题三遍，三次回答都不一样。有时候大致相同但措辞变了，有时候完全跑偏。
这不是bug。这是故意设计的。
核心矛盾：AI既要"对"，又要"活"
先说一个悖论。
大模型本质上是个"文字接龙游戏"——它根据上文，预测下一个最合理的词。如果它总选"最合理"的那个，回答会非常稳定，但也非常无聊。就像你每次问"今天天气怎么样？"，它都回答"今天天气不错"——哪怕外面在下雨。
如果它完全随机，又会胡说八道。
所以设计者面临一个两难：稳定性 vs 多样性。完全稳定像机器人，完全随机像疯子。你需要的，是一个可以调节的"创造力旋钮"。
这个旋钮，就叫Temperature（温度参数）。
Temperature：理解这个参数的直觉
想象你面前有一排按钮，每个按钮代表下一个词的可能性。最可能的词按钮最大，最容易按到；可能性低的词按钮很小，得故意去够。
- Temperature = 0：你永远只按最大的那个按钮。每次选择都一样，回答稳定得像复读机。
- Temperature = 1：你正常伸手去按，大概率按到大按钮，但偶尔也会碰到旁边的小按钮。
- Temperature = 2：你在一个很热的环境里手抖得厉害，碰到哪个按钮纯靠运气——回答会非常随机甚至离谱。
0.7到1.0是大多数模型的默认范围。这个设置下，模型有80%的概率选最合理的词，20%的概率偶尔"剑走偏锋"。
不只是Temperature：另外两个关键参数
如果你用过API，还会遇到另外两个参数：
Top-P（Nucleus Sampling）
换个角度：不是看单个词的概率，而是累加概率。
设定Top-P=0.9，意思是从概率最高的词开始往下加，直到累计概率达到90%，然后只在这堆词里选。这像什么？像你赶时间点外卖——只看评分最高的几家店，评分太低的直接不看。
Top-K
更简单粗暴：只看前K个最可能的词。Top-K=50，就是只从概率前50的候选里选，第51名之后直接淘汰。
实践中，很多人组合使用：Temperature控制整体的"创造力幅度"，Top-P控制候选范围的"广度"，Top-K做最后一道保险——不让太离谱的词进入候选池。
实际应用：什么时候调高，什么时候调低？
需要精确性（Temperature ≈ 0-0.2）
- 代码生成：你不想AI每次生成的函数名不一样
- 数学计算：理由同上
- 事实性问答：“爱因斯坦哪年出生？“不想要三个不同答案
- 数据提取：从文本中抽结构化信息
需要创造力（Temperature ≈ 0.7-1.0）
- 头脑风暴：生成营销文案的多个版本
- 创意写作：让AI写出不同风格的故事
- 翻译：同一句话译出不同风味，对比选择
- 对话角色扮演：让AI的性格不单调
需要高多样性（Temperature > 1.0，极少用）
- 实验性的数据增强
- 生成大量不重复的样本数据
- 某些特定的艺术创作
一个有趣的实验
你可以自己试试这个：
Prompt：用一句话解释"引力”。
Temperature 0.0：
“引力是物体之间由于质量而产生的相互吸引力。”
Temperature 0.7：
“引力就像宇宙的隐形胶水，把星星、行星和你脚底的地面粘在一起。”
Temperature 1.5（如果模型允许调这么高）：
“引力是质量对时空的甜蜜调戏，让万物忍不住朝彼此倾斜。”
三个回答都"对”，但风格天差地别。0.0是教科书，0.7是科普博主，1.5是诗人（也可能是喝了三杯咖啡的诗人）。
背后的原理：概率分布
更深一层想：模型是怎么"知道"哪些词更合理的？
每个候选词都有一个概率分数（logits）。这些分数经过一个叫 Softmax 的函数，变成概率分布——所有词的概率加起来等于1。
Temperature 实际上是在 Softmax 之前缩放这些分数：
- 除以小的 Temperature（如0.1）→ 分数差距被放大 → 最高分的词概率接近100%
- 除以大的 Temperature（如1.5）→ 分数差距被缩小 → 更多词获得竞争机会
数学层面很简单，但效果天差地别。
为什么同一个问题，AI每次"理解"不一样？
有些人会觉得：如果 Temperature = 0，AI应该每次都一模一样才对——但有时候也不是，为什么？
原因有几个：
- 模型本身有随机种子：有些API没有固定随机种子（seed），即使Temperature=0也会因底层实现产生微小差异。
- 多轮对话中的微小差异：前面几轮的生成差异会滚雪球般影响后续输出。
- 模型版本差异：同一个模型的API背后可能做了更新。
- System prompt差异：ChatGPT网页版可能在你看不到的地方加了一些引导词。
如果你需要完全确定性的输出——比如写自动化测试——很多API提供了 seed 参数。设置相同的 seed + Temperature=0，就能得到完全相同的结果。
说人话总结
Temperature 就是AI的"随意程度旋钮"。往左拧，AI变成老实人，每次回答一模一样；往右拧，AI变成创意达人，但偶尔也会胡说八道。
下次用ChatGPT感觉它"今天状态不对"——其实不是状态不对，是默认的Temperature（大约0.8左右）让它偶尔放飞了。如果你需要严谨答案，可以在Prompt里明确要求"请直接回答，不要额外发挥"——这其实也是间接降低了模型的随机性。
记住一个简单的使用心法：
- 需要稳定的事情 → 让AI当工具人（低Temperature）
- 需要灵感的事情 → 让AI当搭子（中等Temperature）
- 需要脑洞的事情 → 让AI当疯子（高Temperature）
关键不是AI能不能每次都答对——而是你能不能控制它什么时候答对，什么时候"发挥"。
📖 本文是MST「30天AI科普专栏」第13篇 / 共25篇 🔖 分类：常见困惑 关注MST，每天一个AI小知识，把大模型讲明白。