事件
最新进展 11月13日 22:47
Google DeepMind 研究用多智能体攻击测试提示注入防护
Google DeepMind 研究人员构建了由 8 组 AI 智能体组成的攻击系统，让它们测试提示注入、交流结果并改进尝试。在 100 项工具使用任务中，攻击者的目标仅是诱发一次随机、无害的工具调用；最多尝试 320 次时，最强攻击者在 34% 的任务中攻破了文中称防护最强的 Gemini 4 Argon。
1 次进展2 篇报道1 个来源
事件进展 1
Google DeepMind 研究用多智能体攻击测试提示注入防护
Google DeepMind 研究人员构建了由 8 组 AI 智能体组成的攻击系统，让它们测试提示注入、交流结果并改进尝试。在 100 项工具使用任务中，攻击者的目标仅是诱发一次随机、无害的工具调用；最多尝试 320 次时，最强攻击者在 34% 的任务中攻破了文中称防护最强的 Gemini 4 Argon。
查看来源报道 · 1 个来源 · 2 篇报道
- Rohan Paul (@rohanpaul_ai) · Google DeepMind 研究用多智能体攻击测试提示注入防护
- Rohan Paul (@rohanpaul_ai) · 研究报告称，多智能体协作可提高提示注入攻击成功率
全部报道 2
Rohan Paul (@rohanpaul_ai)
同事件
研究报告称，多智能体协作可提高提示注入攻击成功率
一则对 Google DeepMind 论文的介绍称，研究人员让 8 组 AI 智能体测试提示注入、共享经验并改进攻击。在 100 项工具使用任务中，攻击者的目标仅是诱使模型执行一次随机、无害的工具调用；最多尝试 320 次后，最强攻击者在 34% 的任务中攻破了被测试者称为防护最强的 Gemini 4 Argon。
另外 1 家也报道了
- Rohan Paul (@rohanpaul_ai)
Rohan Paul (@rohanpaul_ai)
精选
Google DeepMind 研究用多智能体攻击测试提示注入防护
Google DeepMind 研究人员构建了由 8 组 AI 智能体组成的攻击系统，让它们测试提示注入、交流结果并改进尝试。在 100 项工具使用任务中，攻击者的目标仅是诱发一次随机、无害的工具调用；最多尝试 320 次时，最强攻击者在 34% 的任务中攻破了文中称防护最强的 Gemini 4 Argon。
另外 1 家也报道了
- Rohan Paul (@rohanpaul_ai)
推荐理由：在目标仅为一次无害工具调用的测试中，多智能体攻击仍能攻破文中称防护最强的模型，给关注 AI 智能体安全性的读者提供了具体的风险尺度。