aifollow.news
Back Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · Original publication time AI score54

Oxford study finds AI agents built on different models struggle to coordinate over unstated rulesMachine translation

AI introduction

Researchers tested text and code agents built on models including GPT-5.2 and Gemini 3 Pro in nine small cooperative games. In one game, text agents paired with other models scored below a safe option worth five points; a short shared statement of coordination principles led agents to reliably choose that option.

Original post · AI translation

@rohanpaul_ai
Translation · refer to the original

牛津大学的一篇新论文发现,前沿大语言模型智能体无法与不熟悉的伙伴协调,因为每个智能体都把自己臆造的规则(任意约定)当作显而易见的选择。

来自不同公司的智能体越来越需要在没有事先商定规则的情况下协作。以往研究使用共同的框架或复杂的游戏,掩盖了协调失败的原因。

研究人员在9个小型合作游戏中测试了基于GPT-5.2和Gemini 3 Pro等模型构建的文本和代码智能体。在“猫与狗”游戏中,选择稳妥行动可确保获得5分,而按信号约定行动,只有当两个智能体选择同一种约定时才能获得10分。

与其他模型配对时,文本智能体的得分远低于稳妥行动可得的5分,而且各自都称自己的任意约定是自然的选择。一份简短的共同协调原则声明,称为“有利于协调的定义”,使智能体能够可靠地选择稳妥行动,拿到5分。

如果你的智能体必须与并非由你构建的智能体协作,就应指示它避免依赖未明说的约定,优先选择任何伙伴都能正确理解的行动。

Source: Rohan Paul · x.com

Research
Found an error? Send a correction