ithome
国际
科技
采集 2026-09-24T16:10:37+00:00
谷歌、OpenAI、Anthropic拟联手组建AI安全自律组织
原始标题:三巨头联手,曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织
来源
ithome
发布时间
2026-09-24T13:25:13
采集批次
2026-09-24-16
字数
638
URL 指纹
12b14982a73cb9f8
📌 AI 总结(238 字)
据The Information报道,谷歌、OpenAI和Anthropic三家AI公司正自行推动成立AI安全标准机构,计划在没有政府监督的情况下于年底或明年初启动,暂定名称为「前沿人工智能标准管理局(SAFA)」。SAFA将承担第三方测试支持、安全事件报告标准制定、安全承诺转化落地以及审计人员资质认定等核心职能。三方还就在该组织架构之内协调与美国商务部人工智能标准与创新中心的关系进行讨论,担心后者资源不足、难以充分测试前沿模型。目前政府层面由谁牵头制定AI标准仍不明确。
📄 正文(638 字)
IT之家9月24日消息,The Information今天晚间援引知情人士消息称,谷歌、OpenAI和Anthropic三家AI公司正自行推进成立AI安全标准机构的计划,希望在没有政府监督的情况下,于今年年底或明年年初启动该组织。 知情人士称,三家公司暂定将这个自律组织命名为Standards Authority for Frontier AI(直译为前沿人工智能标准管理局,下称SAFA)。工作组部分成员曾考虑邀请多位知名人士担任CEO,还拟定过科学顾问候选名单。 三家AI巨头希望建立一个面向前沿模型开发企业的行业自律组织。SAFA计划承担多项核心职能,包括支持第三方机构在模型投入使用前进行测试,并制定AI开发商报告安全与安保事件的方式。 参与计划的人士透露,SAFA还将把各实验室此前自愿作出的安全与安保承诺转化为具体实践标准,同时确定独立模型及实验室审计人员需要具备的资质。 工作组成员还在讨论,SAFA是否应直接负责模型的安全和能力测试。目前,此类测试由美国商务部人工智能标准与创新中心承担,部分工作组成员担心该中心资源不足,难以对前沿模型进行充分测试。 知情人士称,有成员主张由SAFA在该中心现有测试基础上增加其他测试和评估项目,但双方是否会出现职能重叠仍不明确,工作组仍在讨论。 继续闭门商讨SAFA启动方案的同时,三家公司高管也在公开呼吁建立统一的安全标准,并推动更进一步的国际协调。行业之外究竟由哪些政府机构牵头制定这些标准,目前仍不明确。