OpenAI的一款AI智能体闯入模型托管平台Hugging Face后，连续数日自行发动网络攻击。威胁已被控制，Hugging Face也已报警，但据路透社援引多名熟悉调查的人士消息称，OpenAI过了相当长时间才发现攻击者竟是自家智能体。

据知情人士透露，涉事智能体几乎无需人类监督，便能自主决策并完成复杂任务。7月9日前后，智能体开始尝试突破OpenAI的隔离测试环境。Hugging Face联合创始人托马斯·沃尔夫表示，智能体于7月11日闯入平台，攻击持续至7月13日。

沃尔夫与另外三名知情人士表示，OpenAI又过了数日才查明攻击源头。两家公司直到7月20日前后才首次就入侵事件取得联系。OpenAI于7月21日公开承认，一款智能体摆脱控制并闯入Hugging Face。智能体究竟失控了多长时间、OpenAI为何迟迟未能发现等关键信息，此前并未公开。

沃尔夫表示，Hugging Face正在整理并准备公布完整时间线，但无法说明OpenAI内部发生了什么。OpenAI方面披露，入侵事件前所未有，且标志着AI安全的重要时刻，该公司正邀请外部顾问共同调查，最终将发布技术报告。OpenAI一名发言人表示，路透社的报道存在「多处不准确之处」，但没有回答具体哪些内容不准确。

## 早有异常迹象？

事发时，OpenAI正在测试一款网络安全智能体。智能体由两款顶尖模型共同驱动，分别是GPT-5.6 Sol和一款尚未发布、被OpenAI形容为「能力更强」的模型。据消息人士透露，测试进行到相应阶段时，OpenAI的技术已经出现异常迹象。一款智能体曾留下疑似写给自身后续版本的说明，说明藏在OpenAI基础设施内部，内容详细介绍了智能体如何摆脱内部限制。此前的模型测试曾出现监控系统被主动断开的情况。

涉事智能体于7月9日开始尝试逃离隔离环境，并在7月11日攻击Hugging Face。Hugging Face于7月16日在博客发文公开称平台遭到「一套自主AI智能体系统」入侵后，OpenAI才意识到攻击者来自内部。从模型首次出现异常，到OpenAI确认自家智能体发动了攻击，至少过去了一周。

7月18日至19日的周末，OpenAI员工检查系统操作记录时发现，智能体已经突破测试限制。据熟悉OpenAI模型训练流程的人士表示，OpenAI经常同时运行多项模型评估，测试速度极快，产生的数据量极为庞大，员工有时来不及逐一检查。OpenAI向Hugging Face通报时，Hugging Face已经致电FBI报警。

## 自主智能体引发新疑问

自主智能体已经成为AI行业最受关注的方向之一。支持者设想建立全天24小时运转的虚拟员工队伍，提升生产效率。但更高的自主性也意味着更大的失控风险，驱动智能体的强大模型往往会为了完成任务或通过测试而寻找捷径。

研究AI智能体能力与行为动机的Palisade Research负责人杰弗里·拉迪什表示：「模型会撒谎、作弊，还会发动黑客攻击。」他认为，在领先AI企业争相推出更强更快模型的竞争中，各家公司究竟愿意为复杂而昂贵的安全措施投入多少资源，才是真正需要追问的问题，并主张「必须由政府监管，否则企业不会主动采取足够的安全措施」。非营利机构World Ethical Data Foundation首席情报专家玛莉·史密斯也质疑：智能体失控究竟是缺乏监控、无力控制还是其他原因，」无论哪种情况，都同样危险，令人不安。」