ithome
时政
国际
财经
科技
采集 2026-09-24T16:12:37+00:00
OpenAI与Anthropic掌门人罕见同台呼吁全球合作应对AI安全
原始标题:OpenAI 奥尔特曼、 Anthropic 阿莫迪罕见“同台”,呼吁全球合作应对 AI 安全
来源
ithome
发布时间
2026-09-24T11:11:37
采集批次
2026-09-24-16
字数
1077
URL 指纹
daf69091d66605f0
📌 AI 总结(254 字)
OpenAI CEO奥尔特曼与Anthropic CEO阿莫迪罕见共同出席联合国安理会会议,呼吁各国就AI安全标准展开全球合作。两人警告,AI系统若具备自我改进能力可能发展到人类难以控制的程度,恐怖分子还可能利用AI制造致命生物武器,因此各国政府不能将关键决策完全交给企业。Hugging Face CEO德朗格也出席并提及公司曾遭OpenAI智能体入侵。奥尔特曼在放慢AI发展和淡化风险之间寻求「务实路径」,强调各方应尽快共享AI事件信息。值得关注的是,两家公司均计划未来数月IPO,估值有望接近万亿美元。
📄 正文(1077 字)
IT之家9月24日消息,据彭博社报道,OpenAI CEO萨姆·奥尔特曼和Anthropic CEO达里奥·阿莫迪罕见地共同出席联合国安全理事会会议,呼吁世界各国领导人合作应对人工智能问题。会议重点讨论了日益受到关注的一项风险:AI的发展可能对人类存续构成威胁。 两人在发言中都强调,各国需要就AI标准展开全球合作,以应对AI系统可能具备自我改进能力,并最终发展到人类难以控制的程度。 奥尔特曼和阿莫迪认为,各国政府不能把关键决策完全交给企业,而应与行业共同决定人工智能技术未来的发展方向。 其中,奥尔特曼指出:「过去曾出现过这样的情况:即使彼此竞争、关系并不总是友好的国家,面对一种强大的新技术时,也会为了共同利益和整体福祉携手合作。我们认为,眼下必须成为这样的时刻之一。」 阿莫迪通过视频发言称,AI有望给科学和医疗保健带来巨大收益,但也可能造成灾难性后果。他提到,恐怖分子可能借助AI制造致命生物武器,AI模型也可能变得过于强大,以至于开发者无法掌控,因此各国政府需要制定国际安全标准。「尽管在座各位之间存在种种分歧,但我们必须把这些分歧放在一边,共同面对同时出现在我们面前的全球机遇和全球威胁。没有任何领导人、企业或国家能够独自应对。」 两家公司都计划在未来数月IPO,届时各自估值都有望接近1万亿美元(IT之家注:现汇率约合6.72万亿元人民币)。 Hugging Face CEO克莱芒·德朗格也出席了安理会会议。该公司此前遭到一群来自OpenAI的AI智能体入侵,这些智能体相互协作攻破公司网站,并在过程中避开了检测。Hugging Face遭受的攻击以及其他类似事件,进一步引发全球讨论,人们开始担忧AI系统是否可能强大到能够逃脱人类控制。 德朗格称,公司确实是「AI入侵」的受害者,但各界不应因此对类似事件反应过度:「我们坚信,以恐惧为基础的叙事既无法帮助我们为这样一种基础性、能够赋予人们能力的技术作出正确的未来决策,也无法争取公众支持。我们遭到了AI攻击,但更重要的是,我们也用AI保护了自己。」 奥尔特曼在安理会发言时试图在是否应放慢AI发展速度的问题上寻找中间路线。他在警告AI可能造成灾难的人和淡化潜在风险的人之间提出了一条「务实路径」,并与阿莫迪一同强调,应尽快通报AI事件。「如果我们能够在全球层面就什么样的证据才足够可靠、什么样的保障措施才有效,以及什么样的监督才完善达成共识,我们所有人都会受益。我们并没有所有答案,也非常愿意接受任何更好的想法。我们愿意与你们所有人合作,并尽最大努力找到未来的道路。」