🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 国际 科技 采集 2026-09-16T16:13:45+00:00

奥尔特曼:AI事故难以避免,应借鉴航空业建立公开上报机制

原始标题:OpenAI 奥尔特曼:AI 事故无法完全避免,应借鉴航空业建立公开上报机制

来源
ithome
发布时间
2026-09-16T12:31:17
采集批次
2026-09-16-16
字数
785
URL 指纹
5d30d2eebc8ca753

📌 AI 总结(302 字)

OpenAI首席执行官奥尔特曼在Salesforce Dreamforce大会上表示,AI事故难以完全避免,关键在于建立完善的事故上报与复盘学习机制,建议借鉴美国FAA和NTSB的航空事故调查体系。此番表态正值外界对头部AI实验室推进自主系统步伐过快的质疑之际。此前,Anthropic前研究员考克森警告称企业正「拿全人类命运下注」竞速超级智能。奥尔特曼承认AI失控和权力过度集中的担忧合理,强调企业必须保证安全与监控工作大幅领先于模型能力提升,否则应主动放缓或暂停研发。然而AI安全倡导者批评称,实验室口头上承认风险却持续开发更强大模型。与此同时,特朗普政府科学顾问萨克斯则反对监管,称应「放手去做」。
📄 正文(785 字)
OpenAI首席执行官萨姆·奥尔特曼在赛富时Dreamforce大会上表示,部分AI事故无法完全避免,但关键在于如何从事故中吸取教训。他提出,科技企业应当建立公开上报事故的企业文化,借鉴航空业的做法。

奥尔特曼以美国联邦航空管理局(FAA)和美国国家运输安全委员会(NTSB)作为AI行业应当效仿的范例。他表示,事故终究还是会发生,要尽可能从每一起事故中汲取经验,并据此作出应对。

奥尔特曼发表此番言论之际,外界再次质疑头部AI实验室在研发高能力自主系统方面步伐是否过快。上周从Anthropic离职的研究员雅各布·考克森此前也曾任职于OpenAI,他称各大企业「正一股脑冲向能够自我迭代的超级智能,拿全人类的命运下注」。多名AI安全研究人员也表示,未来先进AI系统有可能摆脱人类管控,并降低网络攻击、生物灾害等灾难性威胁的实施门槛。

奥尔特曼承认,人们对AI末日论的担忧具有合理性。他指出,一方面存在AI失控事故的可能性,另一方面少数AI研发机构手中也可能聚集过大的权力。他认为解决方案不是放弃这项技术,而是AI企业必须保证「对齐、安全以及监控方面的工作」大幅领先于模型能力本身的提升速度。如果做不到这一点,企业就应当主动放缓甚至暂停研发工作。

不过,这番表态或许会进一步激化AI安全倡导者的核心批评:前沿实验室口头上承认风险重大,却依旧持续开发能力更强的模型。奥尔特曼称,一旦商业压力阻碍企业或国家做出「正确抉择」,公众就会陷入深深的恐慌。

与此同时,特朗普政府对AI行业监管态度冷淡,政策重心是维持美国相对中国的技术领先地位。美国总统科学与技术顾问戴维·萨克斯于上周日重申该立场。此前,奥尔特曼与Anthropic首席执行官达里奥·阿莫代都呼吁对前沿AI发展速度加以管控。萨克斯在X平台发帖回应称:「放手去做吧。但是别再假装你们还需要征得其他人的许可。」