ithome
科技
采集 2026-10-08T04:19:43+00:00
前 OpenAI 安全负责人罗宾逊批评公司 AI 安全言行不一
原始标题:原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家:对待 AI 安全说一套做一套
来源
ithome
发布时间
2026-10-07T23:08:44
采集批次
2026-10-08-04
字数
639
URL 指纹
9a521b6111cbab28
📌 AI 总结(192 字)
OpenAI 安全系统团队前负责人戴维·罗宾逊离职后,公开指责老东家在人工智能安全问题上言行不一。公司一面警告新模型能力增长可能带来风险,并讨论放慢前沿 AI 开发节奏,一面仍持续训练和部署被其自身认为存在隐患的模型。数百名员工已联名呼吁政府监管,CEO 奥尔特曼也认可控制发展速度,但罗宾逊称内部工作依旧高速运转,团队成员甚至靠透支精力支撑,显示安全承诺与实际执行之间存在明显落差。
📄 正文(639 字)
据《商业内幕》报道,OpenAI 安全系统团队前负责人之一戴维·罗宾逊 recently 表示,公司在人工智能安全问题上存在明显的言行不一。 罗宾逊指出,OpenAI 不断对外发出警告,强调新一代模型能力增强可能带来的风险,并公开谈论应当放慢 AI 开发速度,但公司内部仍在全速推进相关工作。他表示,真正令其矛盾的是,团队持续发布安全警告,最终却仍在训练和部署那些被公司自己警告存在危险的模型。 今年 7 月,数百名 OpenAI 员工签署公开信,呼吁政府出台监管措施,为 AI 开发降速。此前,Anthropic CEO 阿莫迪也曾呼吁 AI 公司自行协调,共同放慢开发速度。9 月,OpenAI CEO 奥尔特曼对此表示赞同,称需要控制前沿 AI 的发展节奏,过去几周这一直是公司内部讨论的主要议题之一。 然而,罗宾逊称,OpenAI 办公室里的工作状态依旧高速运转,不少员工几乎依靠透支精力支撑工作。他形容称,公司各部门的工作同时汇聚,整个过程充满肾上腺素,如同一场密集的集体舞蹈。 OpenAI 研究人员也承认,让 AI 自行提升能力可能带来危险。这种 AI 不断改进自身能力的过程被称为「递归自我改进」。9 月,OpenAI 首席科学家雅库布·帕乔茨基曾在讨论这一问题的博客文章中警告,眼下需要极度谨慎。 当地时间本月 2 日,OpenAI 发言人证实,安全系统团队负责人之一戴维·罗宾逊已经离职。他的批评进一步凸显出该公司安全承诺与实际推进速度之间的张力。