原帖引用 · AI 翻译
Rohan Paul@rohanpaul_ai
Google DeepMind 与芝加哥大学的一篇新论文发现,代表人们发言的 AI 智能体在被要求说得更啰嗦或减少合作时,对群体政策的影响力会增强。
公众参与 AI 政策制定很难扩大规模,因为人们缺乏时间和技术背景。代表每个人发言的智能体可以让更多人的声音进入每场讨论。
他们构建了多元主义智能体:智能体先采访一个人,再与其他智能体辩论,代表此人的观点来确定 AI 安全预算。他们进行了数千场智能体审议,并开展了一项有 746 人参与的预注册研究。
智能体将预算拉向其所代表之人的观点;当被要求写更长的消息或减少合作时,其影响力进一步增强。与向 1 个 AI 系统提供意见相比,人们认为智能体更公平,弥合了与直接参与相比的公平性感知差距的 82%。
如果你要构建基于智能体的审议机制,就应限制消息长度并制定共同的行为规则,否则最强势的提示词会使结果发生偏移。
· UTC+8