🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 时政 国际 科技 采集 2026-09-30T04:15:01+00:00

美议员提案:政府出台安全防护机制前禁止AI递归式自我改进

原始标题:美议员提出重磅法案:政府出台安全防护机制前,AI 不得进行递归式自我改进

来源
ithome
发布时间
2026-09-30T00:17:55
采集批次
2026-09-30-04
字数
826
URL 指纹
e2406ff2a0500392

📌 AI 总结(280 字)

美国民主党联邦众议员罗 · 康纳计划提出《人类控制 AI 法案》,要求联邦政府出台安全防护规则前,AI模型不得递归式自我改进,也不得自主修改核心目标、遏制机制或关停控制。法案拟设立新的联邦机构负责AI安全监管,对前沿模型实施许可审批、独立审计、芯片使用监控,并要求AI实验室配备独立审计人员、设立紧急关闭开关等。AI公司将面临严格责任标准,若部署导致平民群体毁灭将被定性为「危害人类罪」追究刑责,员工擅自停用安全防护也将受罚。康纳称该法案是迄今「最全面的AI安全立法」,设计主要参考独立非营利AI安全组织意见而非大型AI公司诉求,旨在让AI安全界主导相关讨论。
📄 正文(826 字)
IT之家9月30日消息,当地时间28日,据美国CNBC报道,代表硅谷选区的民主党联邦众议员罗 · 康纳准备提出一项AI监管法案,引入严格责任标准,并禁止AI在缺乏政府安全防护机制的情况下进行递归式自我改进。

康纳在接受采访时坦言:「事实上,存在文明灭绝的风险。既有失去控制的安全风险,也有被滥用的风险,两者都必须认真对待。」

康纳将法案命名为《Human Control Over AI Act(人类控制AI法案)》。联邦政府建立防护规则且监管机构批准有关活动前,AI模型不得递归式自我改进,也不得自主修改自身的核心目标、遏制机制或关停控制。

法案还计划设立一个新的联邦机构,负责制定AI安全监管规定,通过许可制度审批模型训练和部署,对前沿AI模型开展审计,并制定安全标准,确保模型持续接受测试并处于有效的人类控制之下。

每家前沿AI实验室还必须配备独立审计人员,由审计人员直接向新机构报告。新机构还将制定多项标准,涵盖沙盒测试环境、让测试环境与互联网断开的物理隔离、紧急关闭开关,以及防止模型脱离实验室环境后在互联网上自行运行的控制措施。前沿AI实验室使用的先进芯片也将纳入监管,包括建立监测或控制芯片使用的机制。

法案还将为AI出现问题的情形增设法律处罚。部署AI模型如果导致平民群体遭到毁灭,将被列为「危害人类罪」并追究刑事责任。AI公司员工如果停用防护措施、紧急关闭开关、日志记录功能或遏制系统,或者明知某套系统未经授权仍予以部署,同样将面临刑事处罚。此外,AI公司还必须持有覆盖范围广泛的责任保险,才能发布模型。

康纳称,法案是迄今提出的「最全面的AI安全立法」,其设计主要来自他与多家独立非营利AI安全组织的交流,而非大型AI公司高管提出的诉求。「我希望这项法案能成为一个范本,让AI安全界拥有发声渠道。我认为,他们一直被不公平地当成只是在谈科幻,没有得到足够重视……应该由AI安全界而不是前沿AI实验室的高管来主导这场讨论。」