美国参议院正就一项AI监管法案展开讨论。据路透社报道，法案拟要求AI企业证明自身已采取合理预防措施，防止旗下工具造成伤害。

此前，Anthropic研究员雅各布·考克森宣布辞职，提到部分原因是：「开发AI的人真心相信，这项技术可能在本世纪20年代结束前杀死我们所有人。」这番表态加剧了外界对AI潜在危险的担忧。几家AI巨头的负责人随后呼吁放缓技术发展，全球AI概念股在当地时间14日纷纷迎来下跌。

据两名知情人士透露，议员们考虑赋予美国商务部长权力，要求AI开发者拿出证据，证明履行了「注意义务」，即采取合理措施防止伤害。商务部长还可派政府审计人员直接测试企业产品。不过，法案仍处于磋商阶段，即便国会通过，成为法律的希望也不大。

谈判各方还考虑让联邦法院参与处理另一种情况：美国政府认为某些AI模型不安全，希望阻止发布。企业可以向联邦法院提出异议，挑战政府的决定。美国政府究竟能获得多大权力、具体如何安排，仍有待磋商。

此外，另一名游说人士和一名参议院助理透露，涉及联邦法院的条款还拟禁止各州执行本州法律中针对AI模型某些风险的规定。