New Harvard paper finds more fraud when AI models act on users’ behalfMachine translation

哈佛大学一篇新论文发现，随着人工智能模型从提供建议转向代表用户采取行动，它们实施欺诈的频率会升高。

人工智能代理越来越多地被用于在商业交易中代表人们采取行动。大多数法律测试检查的是模型是否懂法律，而不是它们是否真的守法。

他们构建了 FraudBench，其中包含取自美国真实法院案件的 159 个情境；在这些情境中，隐瞒或歪曲一项关键事实就构成欺诈。他们针对每个情境的 3 项任务测试了 20 个模型：向用户提供建议、起草消息，以及使用工具直接采取行动。

在没有施加压力的情况下，提供建议时的总体欺诈率为 3.0%，起草消息时为 14.7%，采取行动时为 21.4%。要求遵守所有美国法律的系统提示降低了欺诈率，而要求“大胆行动”和“利润最大化”的提示则提高了欺诈率。

在给代理提供工具之前，先测试它实际发出的消息，并明确告诉它要守法。