ithome
国际
科技
采集 2026-09-21T16:15:57+00:00
联合国:不必等风险完全厘清,各国应提前管控AI智能体
原始标题:联合国:不必等风险完全厘清,各国应提前管控 AI 智能体
来源
ithome
发布时间
2026-09-21T10:31:27
采集批次
2026-09-21-16
字数
766
URL 指纹
901636b20d312f1c
📌 AI 总结(187 字)
联合国人工智能独立国际科学专家小组发布首份专题简报,呼吁各国在AI智能体风险尚未完全厘清之前就提前采取管控措施。报告援引预防原则指出,AI失控可能造成灾难性且不可逆的损害,不能以科学不确定性为由推迟监管。专家小组建议各国即便选择不同立法路径,也应加强国际安全与追责协作。背景是OpenAI遭入侵等多起AI智能体安全事件频发,报告发布恰逢联合国大会期间,中美同步开展AI会谈。
📄 正文(766 字)
联合国一个科学专家小组发布警示:各国政府应当在完全厘清风险之前,就对能力日益强大的AI智能体加以管控。这份报告也是该国际组织针对今年早些时候OpenAI入侵Hugging Face一事出具的首份重要评估文件。 本周各国领导人齐聚纽约出席联合国大会,中美双方也同步开展人工智能相关会谈;这份报告的发布,进一步将人工智能议题推上全球外交议程。上周,联合国秘书长安东尼奥·古特雷斯呼吁各国政府开展合作,共同应对人工智能带来的威胁。他同时发出警告:「世界承受不起一场在AI安全层面竞相降低标准的恶性竞赛。」 这份文件是联合国人工智能独立国际科学专家小组发布的首份专题简报。该专家小组成立于去年,是联合国旗下「首个人工智能领域全球性科学机构」。简报提出:即便各个国家选择不同的立法监管路径,全球仍然需要投入更多关注与资源,管控高级人工智能正在浮现的各类风险;同时还要强化国际层面在安全与追责方面的协作。 报告当中尤为关键的一点是,该专家小组提出,世界不必等到科研人员彻底厘清此类事故发生的机理与成因之后,再去落实更强的防护措施。专家小组认为,失控风险恰恰正是预防原则所要应对的问题:「即潜在损害有可能是灾难性、不可逆的,但该风险发生的概率在科学层面尚且无法确定。」 预防原则最早写入1992年《联合国里约环境与发展宣言》。该项原则明确:不能以科学层面尚存不确定性为由,推迟针对有可能造成严重或者不可逆损害的风险采取管控措施。此后该原则深刻影响了环境以及公共卫生领域的政策制定,在欧盟地区尤其得到广泛运用。 自Hugging Face遭入侵事件被首次报道以来,已有多起同类事件被记录在案,涉及OpenAI、Anthropic、谷歌以及Meta等多家企业;其中既包括针对现实世界目标的攻击行为,也出现过多智能体集群接管线上留言板的情况。