aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分54

GoogleDeepMind 与 UChicago 研究:代理发言方式会影响群体政策讨论结果

AI 导读

研究让 AI 代理先采访参与者,再代表他们讨论 AI 安全预算。在数千次代理讨论和一项涉及 746 人的预注册研究中,代理能将预算拉向所代表者的观点;被要求写得更长或减少合作时,影响力进一步增加。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

Google DeepMind 与芝加哥大学的一篇新论文发现,代表人们发言的 AI 智能体在被要求说得更啰嗦或减少合作时,对群体政策的影响力会增强。

公众参与 AI 政策制定很难扩大规模,因为人们缺乏时间和技术背景。代表每个人发言的智能体可以让更多人的声音进入每场讨论。

他们构建了多元主义智能体:智能体先采访一个人,再与其他智能体辩论,代表此人的观点来确定 AI 安全预算。他们进行了数千场智能体审议,并开展了一项有 746 人参与的预注册研究。

智能体将预算拉向其所代表之人的观点;当被要求写更长的消息或减少合作时,其影响力进一步增强。与向 1 个 AI 系统提供意见相比,人们认为智能体更公平,弥合了与直接参与相比的公平性感知差距的 82%。

如果你要构建基于智能体的审议机制,就应限制消息长度并制定共同的行为规则,否则最强势的提示词会使结果发生偏移。

来源:Rohan Paul · x.com

论文
发现内容有误?提交纠错