aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分54

牛津研究发现,不同模型的 AI 智能体易因自定规则而协作失误

AI 导读

研究用 9 个小型合作游戏测试基于 GPT-5.2、Gemini 3 Pro 等模型的文本和代码智能体。在一项游戏中,文本智能体与其他模型搭档时,得分低于稳拿 5 分的安全选项;加入简短的共同协调原则后,智能体能稳定选择该选项。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

牛津大学的一篇新论文发现,前沿大语言模型智能体无法与不熟悉的伙伴协调,因为每个智能体都把自己臆造的规则(任意约定)当作显而易见的选择。

来自不同公司的智能体越来越需要在没有事先商定规则的情况下协作。以往研究使用共同的框架或复杂的游戏,掩盖了协调失败的原因。

研究人员在9个小型合作游戏中测试了基于GPT-5.2和Gemini 3 Pro等模型构建的文本和代码智能体。在“猫与狗”游戏中,选择稳妥行动可确保获得5分,而按信号约定行动,只有当两个智能体选择同一种约定时才能获得10分。

与其他模型配对时,文本智能体的得分远低于稳妥行动可得的5分,而且各自都称自己的任意约定是自然的选择。一份简短的共同协调原则声明,称为“有利于协调的定义”,使智能体能够可靠地选择稳妥行动,拿到5分。

如果你的智能体必须与并非由你构建的智能体协作,就应指示它避免依赖未明说的约定,优先选择任何伙伴都能正确理解的行动。

来源:Rohan Paul · x.com

论文
发现内容有误?提交纠错