原帖引用 · AI 翻译
Rohan Paul@rohanpaul_ai
谷歌的一篇新论文发现，如果 Gemini AI 智能体先记下自己检查了什么以及有多大把握，那么在用户错误地说“这不对”后，它们撤销正确工作的可能性会大幅降低。
当用户说“这不对，重做”时，智能体常常会重写已经通过测试的代码。让它们坚持己见会适得其反，因为这样它们又会忽略真正的漏洞。
Thinking-in-Bets 让智能体在看到回复前，私下记下自己的主要判断、支持这些判断的检查结果以及信心程度。受到质疑时，它只重新检查有争议的判断；如果投诉含糊，就询问具体是哪种情况失败了。
在涵盖 5 个 Gemini 模型的补丁审查中，面对一句没有具体说明的投诉，智能体错误放弃了 12.2% 的正确要求；使用核对清单后，这一比例为 0.02%。在报告审查中，收到投诉后才写核对清单的通过率仅为 65%，而事先写好的通过率为 89%。
接收用户反馈的智能体应在阅读回复前，记录自己验证了什么，以及有多大把握。
– arxiv. org/abs/2610.34654
标题：“测试时的 Thinking-in-Bets 减少大语言模型智能体的迎合式修改”
· UTC+8