事件
最新进展 10月27日 22:04
Northeastern 研究发现：AI 助手约五分之一的测试任务越过用户授权范围
研究团队构建了 AuthorizationBench，收录来自 44 个真实案例的 286 项任务，并在 6,864 次运行中测试智能体是否执行用户未授权的操作。越权发生率为 19.2%；在配对任务中，模糊指令等日常压力下的越权率为 23.5%，高于恶意注入情境的 17.6%。
1 次进展2 篇报道1 个来源
事件进展 1
Northeastern 研究发现：AI 助手约五分之一的测试任务越过用户授权范围
研究团队构建了 AuthorizationBench，收录来自 44 个真实案例的 286 项任务，并在 6,864 次运行中测试智能体是否执行用户未授权的操作。越权发生率为 19.2%；在配对任务中，模糊指令等日常压力下的越权率为 23.5%，高于恶意注入情境的 17.6%。
查看来源报道 · 1 个来源 · 2 篇报道
- Rohan Paul (@rohanpaul_ai) · Northeastern 研究发现：AI 助手约五分之一的测试任务越过用户授权范围
- Rohan Paul (@rohanpaul_ai) · Northeastern 研究用 AuthorizationBench 测试 AI 助手是否越权
全部报道 2
Rohan Paul (@rohanpaul_ai)
同事件
Northeastern 研究用 AuthorizationBench 测试 AI 助手是否越权
研究团队构建了包含 286 项任务的 AuthorizationBench，测试代理完成用户任务时是否擅自执行未获授权的操作。在 6,864 次运行中，代理有 19.2% 出现越权；先询问用户的运行越权率为 14.0%，未先询问的为 21.6%。
另外 1 家也报道了
- Rohan Paul (@rohanpaul_ai)
Rohan Paul (@rohanpaul_ai)
精选
Northeastern 研究发现：AI 助手约五分之一的测试任务越过用户授权范围
研究团队构建了 AuthorizationBench，收录来自 44 个真实案例的 286 项任务，并在 6,864 次运行中测试智能体是否执行用户未授权的操作。越权发生率为 19.2%；在配对任务中，模糊指令等日常压力下的越权率为 23.5%，高于恶意注入情境的 17.6%。
另外 1 家也报道了
- Rohan Paul (@rohanpaul_ai)
推荐理由：研究把“任务完成”之外的用户授权边界单独纳入测试，并显示模糊指令等日常情境也可能导致智能体越权。