🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 科技 采集 2026-11-06T16:08:39+00:00

奥尔特曼警示人类或失去人工智能控制权

原始标题:OpenAI CEO 奥尔特曼警示:未来人类可能无法从 AI 手中夺回控制权

来源
ithome
发布时间
2026-11-06T15:13:11
采集批次
2026-11-06-16
字数
396
URL 指纹
e070f8f1279e8313

📌 AI 总结(161 字)

OpenAI首席执行官萨姆·奥尔特曼在播客中警告,人工智能可能以两种方式失控:人类逐渐把控制权交给能力远超自身的自主系统,或某个人、企业及国家垄断技术,使其他参与者处于弱势。他认为,多家采用不同路线的实验室相互竞争,比所有人依赖一家企业更安全。尽管存在过度集权风险,他仍看好下一代人工智能推动基础科学研究,并改善人类未来。
📄 正文(396 字)
OpenAI首席执行官萨姆·奥尔特曼近日在Raj Shamani播客中表示,人工智能可能通过两种方式走向失控。

第一种风险是人类逐步将控制权交给自主式人工智能。奥尔特曼称,人工智能会逐渐失去控制,人类可能有意或无意地把决策权交给能力远超自身的系统,最终难以重新夺回控制。

第二种风险是人工智能技术被少数主体垄断。如果某个人、公司或国家相对于其他参与者过于强大,技术集中就可能形成危险局面。奥尔特曼认为,让多个采用不同技术路线的AI实验室相互竞争,比所有人依赖一家企业更安全。

他指出,对技术过度集权的担忧,也是马斯克及部分OpenAI前高管离开并创办竞争公司的原因之一。相关人士可能认为,只有自己有能力开发这项技术,因为其潜在利益和影响非常大。

不过,奥尔特曼仍相信人工智能能够为人类带来更美好的未来。他尤其看好人工智能在基础科学研究方面的作用,认为下一代AI模型将推动科学持续进步。