ithome
科技
采集 2026-10-25T04:09:25+00:00
三名被解雇的OpenAI安全研究员否认泄密
原始标题:三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对
来源
ithome
发布时间
2026-10-25T03:28:57
采集批次
2026-10-25-04
字数
901
URL 指纹
8182370cdbca5079
📌 AI 总结(148 字)
三名因涉嫌向外部研究人员泄露内部模型架构信息而被OpenAI解雇的安全研究员否认泄密,并质疑公司以敏感信息违规为由解聘他们。相关争议源于研究人员主张保留模型思维链的可核查性,以及OpenAI新一代模型减少可观察推理步骤的动向。三人担忧事件将阻碍独立安全审计合作,并致信董事会呼吁加强外部安全协作。
📄 正文(901 字)
三名被OpenAI解雇的安全研究员托梅克·科尔巴克、米基塔·巴莱斯尼和王茉莉否认泄露机密信息,并认为解雇可能与他们推动人工智能系统透明度和保留模型思维链核查能力有关。OpenAI表示,解雇经过内部调查,三 人违反了敏感信息管理规定,但公司称解聘与安全顾虑无关,也没有书面说明究竟哪些信息被不当处理。 据《华尔街日报》报道,OpenAI安全团队怀疑三人向外部安全研究员泄露内部模型架构细节,并要求他们解锁个人手机。调查人员在手机中发现使用阅后即焚功能的Signal聊天记录,随后三人被同时解雇。OpenAI称Signal并非公司认可的通讯工具,但表示这不是解聘理由;科尔巴克则称,阅后即焚在硅谷属于常见的安全做法。 争议的核心是外部研究人员能否查看模型推理过程。推理型模型会记录解题的中间步骤,研究人员可借此理解模型的判断逻辑。2025年,巴莱斯尼、科尔巴克和王茉莉联合多家实验室的研究者,呼吁持续保留这一核查能力。今年夏天,多家AI公司开始讨论思考时间更长、但中间步骤更少的新模型,巴莱斯尼曾在公司内部提出异议。 科尔巴克还与红杉研究院首席科学家瑞安·格林布拉特频繁沟通,二人通过Slack和Signal合作分析OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托开展独立调查。9月1日,相关媒体报道称OpenAI新模型Astra能力更强,但暴露的推理过程更少,数周后OpenAI启动泄密调查。格林布拉特否认向媒体传递机密信息。 针对王茉莉的指控,OpenAI称她多次访问一名高管的邮箱;王茉莉解释称,访问权限早已申请取消,自己只是误点敏感邮件,没有转发或传播内容,并立即上报。OpenAI表示,权限本身并非问题所在。 三名研究员认为,此事还可能使同事不敢与外部人员交流或在公司内部提出安全隐患。他们已致信OpenAI董事会,呼吁加强与外部安全机构的合作。与此同时,METR与红杉研究院发布的审计报告称,OpenAI基础设施存在大量安全漏洞,但最终报告近一半内容被涂黑。OpenAI随后发布断网运行的新安全架构报告,称相关漏洞已经修复,并表示将于近期公布多项外部合作。