aifollow.news Search
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time

Three Fired OpenAI Safety Researchers Deny Leaking Confidential Information and Challenge Their DismissalMachine translation

Automatically verified and published · Generated and evidence-checked automatically; not reviewed by a human.

AI-assisted summary

OpenAI says an internal investigation found that the three violated rules for handling sensitive information. The researchers deny leaking confidential information and say the company did not tell them in writing what information was mishandled. They suspect their dismissal was linked to their advocacy for outside scrutiny of AI reasoning steps; OpenAI denies it was related to their safety concerns.

Article · Original

The article text is unavailable in this language; an existing version is shown.

IT之家 10 月 25 日消息,三名因涉嫌泄密被解雇的 OpenAI 安全研究员道出了他们一方的说辞。托梅克 · 科尔巴克(Tomek Korbak)、米基塔 · 巴莱斯尼(Mikita Balesni)与王茉莉(Jasmine Wang)否认泄露机密信息,质疑解雇他们的官方理由,并猜测这件事和他们一直倡导提升 AI 系统透明度有关。

OpenAI 经过内部调查,认定三人违反敏感信息管理规定,将他们辞退。在被解雇之前,这三人都曾公开发表过关于 AI 风险的观点。

IT之家注意到,在接受《华尔街日报》采访时,几名研究员对官方说法提出反驳。OpenAI 向该报表示,解雇一事和他们提出的安全顾虑无关。但三名研究员称,公司从未以书面形式告知他们究竟是哪些信息被不当处理。他们还担心,这个事件会让独立安全审计人员不愿再和 AI 企业合作。

《华尔街日报》的报道还原了这场冲突的起因。OpenAI 安全团队怀疑三人向一名外部安全研究员泄露了公司内部模型架构细节,要求他们解锁个人手机。调查人员在手机里发现了开启阅后即焚功能的 Signal 聊天记录。一周之后,三人同时被解雇。OpenAI 表示 Signal 并非公司认可的通讯工具,但强调这并不是解雇的理由。科尔巴克则反驳,阅后即焚消息在硅谷本就是常规安全做法。

争议焦点:是否允许核查 AI 的推理步骤

这场争执的核心是一个影响深远的技术问题:AI 企业是否应当允许外部人员查看模型的思考过程。推理型模型会在内部的“思维链”暂存区记录解题的中间步骤,企业和安全研究员依靠这些记录,理解模型做出判断的逻辑。

在 2025 年的一篇论文中,巴莱斯尼、科尔巴克、王茉莉联合多家 AI 实验室的顶尖研究者,呼吁持续保留这项可核查能力。今年夏天,这个问题变得更加紧迫:多家 AI 公司内部开始讨论一类新模型 —— 思考时间更长,但记录下来的中间步骤更少。巴莱斯尼在公司内部提出异议,转发了当时红杉研究院(Redwood Research)首席科学家瑞安 · 格林布拉特(Ryan Greenblatt)的相关提案。

科尔巴克也和格林布拉特保持频繁沟通。二人通过 Slack 和 Signal 协作,共同分析一起备受关注的事件:OpenAI 智能体攻击 Hugging Face 事件。格林布拉特受 METR 委托,负责这项独立调查。

一篇关于 Astra 的报道,触发了内部调查

9 月 1 日,The Information 刊发报道,称 OpenAI 新模型 Astra 能力更强,但暴露出来的推理过程更少。这次合作就此成为麻烦的导火索。当时 OpenAI 首席科学家雅各布 · 帕霍茨基(Jakub Pachocki)在 X 平台评价这篇报道逻辑混乱,但他本人此前就曾警示,整个行业正在竞相研发难以监控的模型。

《华尔街日报》称,几周之后 OpenAI 启动内部泄密调查。巴莱斯尼说,调查人员认定格林布拉特是消息外泄的接收方,要求调取他们之间的 Signal 聊天记录。格林布拉特否认向记者传递过机密信息。

针对王茉莉的指控则单独成立:OpenAI 称她多次访问一名高管的邮箱。她的解释是,自己早在近一年前就申请取消这项权限;上个月只是误点开一封敏感邮件,没有转发、传播内容,并且第一时间上报了该失误。OpenAI 表示,权限本身不是问题所在。

科尔巴克认为事件带来的负面影响远不止他们三人。他说,现在同事们不敢和外部人员交流,也不敢在内部提出安全隐患。三名研究员已经致信 OpenAI 董事会,呼吁加强和外部安全机构的合作。

另外一份刚发布的现场审计报告,也对 OpenAI 的安全流程提出质疑。METR 与红杉研究院的审计人员在核查中发现 OpenAI 基础设施存在大量安全漏洞,但 OpenAI 把最终报告将近一半内容做了涂黑处理。

OpenAI 也发布了一份新安全架构报告,这套架构运行时断开互联网。公司称相关漏洞已经修复,并于 10 月初恢复模型训练,还表示很快会公布多项新的外部合作。

Found an error? Send a correction