ithome
国际
科技
采集 2026-09-24T16:12:18+00:00
微软总裁支持独立评估AI安全并设置关闭开关
原始标题:微软总裁布拉德 · 史密斯支持独立评估 AI 安全,还要确保系统处于人类控制之下
来源
ithome
发布时间
2026-09-24T11:26:01
采集批次
2026-09-24-16
字数
522
URL 指纹
4a8ed8da6adb160c
📌 AI 总结(210 字)
微软总裁布拉德·史密斯在联合国大会期间表态,支持引入独立第三方对AI进行安全评估,认为仅靠一两家机构难以推动AI安全进展。他强调模型公司、软件层提供方及智能体行为监控方都应参与其中,微软与OpenAI已设联合安全委员会协助判断模型发布安全性。他还支持为先进AI系统设置多个关闭开关,确保人类控制权,必要时政府也应掌握开关。此外,史密斯承认因AI数据中心采用天然气发电,微软2030年碳负排放目标面临挑战,需调整气候目标。
📄 正文(522 字)
正在纽约举行的联合国大会上,AI安全以及全球范围内如何监管AI行业,是各国领导人和企业高管重点讨论的问题。当地时间23日,微软总裁布拉德·史密斯接受彭博社采访时称,如果AI安全只由一两家机构负责,就很难取得进展。他表示,模型公司固然至关重要,但像微软这样提供软件层、负责控制AI智能体并监控智能体行为的公司同样重要。 史密斯称,微软与亲密合作伙伴OpenAI设有一个双方共同派员组成的安全委员会,微软通过这一委员会参与双方的AI安全讨论,并协助判断模型何时达到可以发布的安全水平。 他还提到,微软支持为先进系统设置关闭开关,确保系统处于人类控制之下。安全机制真正需要部署在多个层面。有时,可能希望政府也能掌握开关,但既然可以在三个或四个地方设置开关,为什么只把开关放在一个地方? 史密斯还承认,微软需要调整气候目标。按照微软此前的承诺,到2030年从大气中清除的碳将超过自身排放量。然而这一目标的时间表似乎越来越难以实现,部分原因是微软采用能够迅速投运的天然气发电厂,为AI数据中心供电。 史密斯坦诚道:我们仍然认为,气候仍是本世纪最重要的问题之一,但现在要问的是,还能不能按照六年前设想的方式实现这些目标?我们发现,必须作出一些调整。