🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 国际 科技 采集 2026-11-19T04:11:00+00:00

奥尔特曼谈AI安全与发展平衡

原始标题:奥尔特曼称 OpenAI 没法让所有人满意,必须平衡 AI 安全与发展

来源
ithome
发布时间
2026-11-19T01:00:15
采集批次
2026-11-19-04
字数
808
URL 指纹
829b478dd358377d

📌 AI 总结(147 字)

在美国DealBook峰会上,OpenAI首席执行官萨姆·奥尔特曼表示,公司无法让所有人满意,必须在技术创新与安全风险之间寻找平衡。他介绍分阶段部署、现实检验和持续改进机制,并引入第三方机构评估模型。奥尔特曼同时呼吁行业制定共同安全标准,反对将人类决策权交给AI,并透露公司仍保留未来上市计划。
📄 正文(808 字)
美国当地时间11月18日,OpenAI首席执行官萨姆·奥尔特曼在DealBook峰会上表示,OpenAI正在人工智能安全与技术发展之间寻找平衡点。公司总裁、联合创始人格雷格·布罗克曼一同出席活动并回应相关议题。

奥尔特曼坦言,OpenAI不可能「让所有人都满意」。如果只追求技术突破、持续加速产品研发,公众可能担忧人工智能失控;但若过度强调安全,又可能延缓产品和技术进步。因此,推进人工智能发展必然伴随风险,公司需要在安全保障与持续创新之间作出取舍。

他强调,OpenAI采取「迭代部署」策略,即分阶段推出技术,在真实环境中观察风险并持续改进。理解人工智能风险不能仅依靠脱离实际的封闭开发,更需要让技术接受现实世界的检验。

随着模型能力迅速增强,安全、对齐和监控的难度也明显提高。布罗克曼表示,确保人工智能安全可控、使其行为符合人类意图,不只是OpenAI自身需要面对的挑战,也是整个行业正在经历的文化转变。

据OpenAI介绍,公司已与其他人工智能企业签署自愿协议,承诺开展风险评估并与第三方评估机构合作。目前,METR、Apollo Research等独立安全研究机构正在对模型进行安全评估。

奥尔特曼还警告,企业间激烈竞争可能使安全投入不足。各家公司通常只能了解自身标准,难以掌握竞争对手的开发情况,这种「迷雾中的竞赛」不利于风险控制。他呼吁行业建立共同的安全标准,并推动更高程度的透明度。

针对人工智能逐步接管决策权乃至形成「超级智能」的讨论,奥尔特曼明确表示反对。他认为,人类必须继续掌控未来,不应将决策权逐步交给人工智能。布罗克曼则表示,模型能力越强,企业就越应承担保障其与人类目标一致、安全可控的责任。

商业方面,奥尔特曼透露OpenAI仍计划在某个时点上市。此前,公司已将首次公开募股计划推迟至明年,以优先处理安全问题;本月早些时候,公司完成110亿美元融资,估值达到1.25万亿美元。