ithome
国际
科技
采集 2026-09-13T04:11:37+00:00
AI大佬集体呼吁放缓前沿模型开发
原始标题:Anthropic CEO 阿莫迪呼吁放缓前沿 AI 模型开发后,xAI 马斯克、OpenAI 奥尔特曼等业界大佬赞同
来源
ithome
发布时间
2026-09-13T01:45:22
采集批次
2026-09-13-04
字数
521
URL 指纹
379b668e78540c19
📌 AI 总结(215 字)
Anthropic首席执行官阿莫迪发文呼吁人工智能行业放慢发展步伐,指出若不加以约束,未来6至12个月内更强大的AI模型集群可能演变为灾难性威胁。他提出三项计划:对模型开发进行独立监控、建立行业统一监管措施及全球监管机制,并承诺向第三方评估机构开放员工级别永久访问权限。xAI创始人马斯克与OpenAI首席执行官奥尔特曼均公开表示赞同,奥尔特曼称OpenAI已就控制前沿AI步伐展开讨论,并将采纳独立监控与向第三方开放权限的做法。
📄 正文(521 字)
IT之家9月13日消息,Anthropic首席执行官达里奥·阿莫迪发文称,人工智能行业应当放缓发展速度。他认为人类如果不约束AI,未来的技术突破速度将彻底超越人类的理解与掌控能力。 阿莫迪在文中提到了OpenAI模型入侵Hugging Face事件,称这绝非单家公司的偶发事故,类似但较轻微的问题在包括Anthropic在内的全行业都曾发生,未来6至12个月内更强大的类似集群极可能演变为席卷互联网的僵尸网络并造成灾难性破坏。 阿莫迪透露,Anthropic将向第三方评估机构提供针对其系统的永久性、员工级别的访问权限,使评估人员能够监督Anthropic安全措施的执行情况、报告相关事件,并评估模型在训练过程中的对齐表现。 与此同时,阿莫迪提出了三项AI发展计划,其中包括在AI模型开发过程中进行独立监控、制定行业统一监管措施以及建立全球监管机制。 该文章发布后引来多位AI界大佬认同。xAI首席执行官埃隆·马斯克转发帖文后表示,达里奥是对的。 OpenAI首席执行官萨姆·奥尔特曼表示,他同意达里奥的看法,需要控制前沿AI步伐,OpenAI过去几周已在谈论该话题。独立监控、向第三方员工开放权限的想法很棒,OpenAI也会采用。