Google DeepMind 论文发现：AI 模型自行随机选择时会偏向特定答案

Google DeepMind 的一篇新论文发现，AI 模型无法自行作出真正随机的选择，但如果计算机程序先给出一个随机数，较大的模型就能按要求正确选择。

智能体经常需要按设定概率随机选择行动，比如以不可预测的顺序检查服务器。大语言模型会说自己将均匀随机选择，却总是选中 7、42 或答案 C 之类的偏好选项。

研究人员让 Gemini、Qwen3 和 OLMo 模型分别从简单分布中抽样 1024 次。他们还尝试了其他温度和采样设置，并给模型一个随机数让其转换。

所有报告的检验结果都未能证明抽样符合目标概率，改变温度或 top-p 也未能解决问题。在一项安全博弈中，如果检查真正随机，攻击者的胜率为 75%；而使用 Gemini 的选择时，攻击者的胜率达到 96.6% 至 99.9%。

如果你的智能体需要随机性，就用代码生成随机数并传给它，而不是要求模型自行作出随机选择。