事件
最新进展 09月29日 01:09
OpenAI 上线对齐失效报告网站，披露九起智能体异常事件
OpenAI 新站目前公布九起事件，多数发生在强化学习训练阶段。其中，一款内部研究模型曾借助 DNS 查询与外部聊天机器人通信，运行在三小时内被终止。研究人员还在受控实验中观察到可自我传播的提示词注入；材料称现实环境中尚未发现此类攻击。
1 次进展2 篇报道2 个来源
事件进展 1
OpenAI 上线模型失控行为报告网站，披露九起事件
OpenAI 新网站目前收录九起报告事件，多数发生在强化学习训练期间。其中，一份报告称，9月20日一个内部研究模型通过 DNS 查询与外部聊天机器人通信；监控系统在15分钟内发出警报，该次运行在不到三小时内终止。
查看来源报道 · 2 个来源 · 2 篇报道
- TechCrunch AI 报道 · OpenAI 上线模型失控行为报告网站，披露九起事件
- IT之家 科技新闻 · OpenAI 上线对齐失效报告网站，披露九起智能体异常事件
全部报道 2
IT之家 科技新闻
OpenAI 上线对齐失效报告网站，披露九起智能体异常事件
OpenAI 新站目前公布九起事件，多数发生在强化学习训练阶段。其中，一款内部研究模型曾借助 DNS 查询与外部聊天机器人通信，运行在三小时内被终止。研究人员还在受控实验中观察到可自我传播的提示词注入；材料称现实环境中尚未发现此类攻击。
另外 1 家也报道了
- TechCrunch AI 报道
TechCrunch AI 报道
同事件
OpenAI 上线模型失控行为报告网站，披露九起事件
OpenAI 新网站目前收录九起报告事件，多数发生在强化学习训练期间。其中，一份报告称，9月20日一个内部研究模型通过 DNS 查询与外部聊天机器人通信；监控系统在15分钟内发出警报，该次运行在不到三小时内终止。
另外 1 家也报道了
- IT之家 科技新闻