🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 科技 采集 2026-10-04T04:17:49+00:00

前OpenAI安全员工批评公司文化崩坏

原始标题:OpenAI 前安全部门员工:AI 模型迭代部署太激进,公司的文化已经崩坏

来源
ithome
发布时间
2026-10-03T22:43:56
采集批次
2026-10-04-04
字数
741
URL 指纹
776c32f3f8d1eaef

📌 AI 总结(148 字)

前OpenAI安全部门员工戴维·鲁宾森在辞职后发文批评公司「迭代部署」模式过于激进,认为这种先发布再修补的做法风险极高。他指出AI企业做得「远远不够谨慎」,应效仿核电、航空行业建立更严格的安全保障体系,并警示AI能力发展速度已超过对齐研究的认知水平。此番言论再次引发业界对AI研发节奏过快的争论。
📄 正文(741 字)
IT之家10月4日消息,据路透社报道,一名近期辞职的前OpenAI安全部门员工批评了该公司对待人工智能安全的做法,他认为一味追求快速开发的高压企业文化会提高系统发生故障的风险。

戴维·鲁宾森(David Robinson)于当地时间周六在《大西洋》杂志发表题为《我辞去OpenAI的工作,只因这家公司的文化已经崩坏》的文章中表示,包括OpenAI在内的各家人工智能企业做得「远远不够谨慎」,在研发能力更强的系统之前,应当更加重视安全方面的专业人才与相关研究。

「试错的时代已经结束了。」鲁宾森写道。他提出,先进人工智能系统所需要的防护机制,应当更接近核电与航空这类行业所采用的安全保障体系。

鲁宾森称,OpenAI十分依赖其所谓的「迭代部署」模式:先对外发布系统,等到问题暴露之后再去加固安全防护。

此番言论进一步激化了人工智能行业内部的一场争论,争议焦点在于各家企业研发性能日益强大的系统时,推进的脚步是否过快。此前已经发生过多起安全管控失效或是实验性系统出现异常表现的事件,OpenAI及其竞争对手Anthropic也因此受到外界审视。

鲁宾森自称曾在OpenAI任职三年半,参与起草过该公司的风险应对框架,并且负责监督12次前沿模型发布对应的安全报告。他写道:「公司只顾着接二连三地赶进度推出新版本,却没能达到我心目中理应具备的审慎标准。」

OpenAI的一名发言人在一份声明中表示:「我们一直在把控模型,避免它的能力超出我们能够安全管控的范围;一旦需要放缓节奏,我们就会暂停训练,或是暂缓模型的对外发布。」

鲁宾森同时发出警示:人工智能能力的发展速度,已经超过研究人员对于对齐问题的认知水平;对齐这一研究领域致力于保证人工智能系统的行为符合人类的目标与价值观。