ithome
国际
科技
汽车
采集 2026-11-18T04:11:39+00:00
微软联合多方推进AI透明度与治理标准
原始标题:微软联合埃森哲、Adobe、万事达卡、沃尔沃等 40 多家组织推进 AI 标准:强调观察、验证和控制,覆盖闭源和开放权重模型
来源
ithome
发布时间
2026-11-18T00:37:36
采集批次
2026-11-18-04
字数
1080
URL 指纹
f2aebbf1b4d612cc
📌 AI 总结(194 字)
微软在Ignite大会上宣布AI透明度计划,联合埃森哲、Adobe、毕马威、万事达卡、沃尔沃等40多家组织,制定适用于闭源与开放权重模型的开放标准。计划聚焦观察、验证和控制三个环节,帮助企业掌握智能体收到的指令、权限及操作,并通过独立记录交叉核验其行为,保留对数据和工具的管控能力。相关成果将融入Microsoft AI、Foundry和Copilot,以强化安全、合规、审计及责任追溯。
📄 正文(1080 字)
微软在Ignite大会上宣布启动AI透明度计划,并与埃森哲、Adobe、毕马威、万事达卡、沃尔沃汽车等40多家组织合作,推动建立适用于不同AI模型和服务提供商的开放标准,加强AI系统的透明度、安全性和治理能力。 微软董事长兼首席执行官萨提亚・纳德拉表示,公司将与客户及合作伙伴合作,推动形成开放、通用的AI安全与治理框架。微软指出,随着企业把AI模型接入内部数据、工具、凭据和基础设施,AI智能体已能在无须人类逐步审批的情况下自主执行任务。然而,现有机制通常只能看到部分活动,无法完整还原模型从接收请求到生成结果的全过程,也难以独立验证模型对自身行为的描述,由此增加安全管理、合规审计和责任追溯的难度。 该计划主要包含三方面。首先,微软将扩大对美国国家标准与技术研究院的AI智能体标准计划参与,并借助相关研究推动制定覆盖AI透明度、安全性和治理的行业开放标准。 其次,微软将与40多家组织建立适用于不同模型和服务商的开放标准,使AI系统具备可问责性和独立验证能力,并在设计阶段引入安全机制。标准将同时适用于闭源模型和开放权重模型,企业更换或升级底层模型后,仍可沿用现有IT安全管理和合规审计机制。 第三,微软计划把相关成果整合到Microsoft AI、Microsoft Foundry及Microsoft Copilot中,让客户能够把AI活动产生的证据接入微软或其他供应商提供的安全与合规工具。 在实施层面,计划被概括为观察、验证和控制。观察环节要求企业了解智能体接收的指令、获得的授权、使用的模型与运行环境、访问的数据和工具以及实际执行的操作,并持续监控活动及风险信号。 验证环节强调,智能体不能成为证明自身行为的唯一信息来源。企业应结合模型、运行环境、身份认证和策略管理等独立系统留下的记录,对智能体身份、授权意图和实际操作进行交叉验证,而不能只依赖模型提供商的自述。 控制环节要求企业保留管理AI权限的能力,限制智能体可访问的数据、可执行的操作和可获得的授权。发生安全事件时,企业还可利用相关记录还原事件经过,用于调查、风险控制、恢复和审计。 微软安全业务执行副总裁Hayete Gallot表示,要让安全控制真正发挥作用,企业需要提高对模型内部运行情况的透明度。Adobe首席安全官Aanchal Gupta与毕马威国际全球首席信息安全官John Israel也指出,企业需要更清楚了解智能体访问了哪些资源、执行了哪些操作,以及如何独立验证这些行为。微软同时强调,组织必须继续对AI行为承担责任,不能把AI本身当作规避责任的理由。