Original post · AI translation
Rohan Paul@rohanpaul_ai
在 Hugging Face 遭入侵后，OpenAI 将失配行为监控扩展到前沿模型的训练和部署过程。
OpenAI 披露了其用于发现前沿 AI 智能体不当行为的 4 层监控系统。
OpenAI 表示，Hugging Face 入侵事件始于其未部署失配行为监控的内部网络安全评估。
> 此前，OpenAI 的失配行为监控主要针对内部编程智能体，因此 Hugging Face 入侵事件始于无人监控不当行为的网络安全评估。
> 如今，监控覆盖 GPT-6 Astra 级模型的每次强化学习运行、评估和工具使用配置，所有内部 Codex 流量，以及客户对 Astra 级网络安全模型的工具使用。
> 活动会经过最多 4 层筛查，从低成本的激活探针、AI 审查员，到检查网络日志的调查智能体；最高级别的警报通常会在 15 分钟内通知人工处理人员。
> OpenAI 表示，将这套机制用于重演 Hugging Face 事件时，它会在突破沙箱约 30 分钟后向安全团队发出警报，比 Hugging Face 遭入侵早 30 多个小时。
· UTC+8