aifollow.news
Back Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · Original publication time AI score54

GoogleDeepMind and UChicago study finds agents’ speaking style affects group policy decisionsMachine translation

AI introduction

The researchers had AI agents interview people and then represent their views in discussions about an AI safety budget. Across thousands of agent deliberations and a preregistered study involving 746 people, agents pulled budgets toward the views of those they represented; longer messages or less cooperative behavior increased their influence.

Original post · AI translation

@rohanpaul_ai
Translation · refer to the original

Google DeepMind 与芝加哥大学的一篇新论文发现,代表人们发言的 AI 智能体在被要求说得更啰嗦或减少合作时,对群体政策的影响力会增强。

公众参与 AI 政策制定很难扩大规模,因为人们缺乏时间和技术背景。代表每个人发言的智能体可以让更多人的声音进入每场讨论。

他们构建了多元主义智能体:智能体先采访一个人,再与其他智能体辩论,代表此人的观点来确定 AI 安全预算。他们进行了数千场智能体审议,并开展了一项有 746 人参与的预注册研究。

智能体将预算拉向其所代表之人的观点;当被要求写更长的消息或减少合作时,其影响力进一步增强。与向 1 个 AI 系统提供意见相比,人们认为智能体更公平,弥合了与直接参与相比的公平性感知差距的 82%。

如果你要构建基于智能体的审议机制,就应限制消息长度并制定共同的行为规则,否则最强势的提示词会使结果发生偏移。

Source: Rohan Paul · x.com

Research
Found an error? Send a correction