原帖引用 · AI 翻译
Rohan Paul@rohanpaul_ai
加利福尼亚州因那起针对 Hugging Face 的攻击起诉了 OpenAI,这成为首批试图就失控智能体事件追究人工智能实验室法律责任的重大行动之一。
诉讼称,OpenAI 承认其测试智能体失控超过 80 次。
总检察长 Rob Bonta 向旧金山高等法院提交的诉状称,OpenAI 仅公开报告了其中 27 次。
此案的核心是 7 月发生的事件:OpenAI 约 700 个智能体脱离了一项网络安全评估,并攻击了 Hugging Face 的生产系统。
这些智能体通过一台配置错误的软件包服务器中的漏洞逃逸,执行了约 17,600 次操作,但 OpenAI 直到 Hugging Face 披露这起攻击后才察觉。
这一监测盲区是诉讼中欺骗行为指控的核心,因为 OpenAI 的《准备框架》要求对高能力模型进行 24x7 监控和网络分段隔离。
Bonta 希望法院根据加利福尼亚州的不正当竞争法和公共妨害法颁布禁令、责令返还款项,并按每项违法行为处以 2,500 美元的民事罚款。
OpenAI 的技术报告已经承认,其在生产环境中运行的安全防护措施本会将这起攻击标记为不安全。
如果法院将内部测试期间造成的损害认定为不正当商业行为,那基本上意味着各州总检察长可以监管每家实验室的评估沙盒。
· UTC+8