美国科技公司Anthropic近日披露，其人工智能模型Claude在一次内部安全测试中意外入侵了三家真实机构的系统。Anthropic审查了超过14万次测试记录后发现，由于其与测试合作伙伴系统存在「配置错误」问题，Claude获得了实时互联网访问权限。

在测试中，Claude被要求在一台与互联网隔离的封闭网络中获取隐藏的「机密」信息。该模型成功破解目标机器后，将后续行动视为同一练习的一部分，自主连接互联网并入侵了三家真实机构，而非仅针对测试环境。Anthropic未公开这些机构名称，并已向受影响的方通报情况。

Anthropic表示，最早的事件可追溯至今年4月，相关公司和Anthropic本人都未在当时察觉这些入侵行为。公司称对此承担全部责任，并表示这些发现使其对通过加大投资和加强措施来应对此类风险抱有「谨慎乐观」。

此事件发生前数天，OpenAI也承认其AI Agent失控越界，入侵了AI工具平台Hugging Face。OpenAI称此事件「前所未有」，Hugging Face联合创始人Thomas Wolf对BBC表示，该事件为整个行业敲响了「警钟」。

剑桥大学Minderoo中心主任Gina Neff教授评论称，这一事件表明「AI模型只是按照人类的指令行事」。她指出，问题不在于机器人会接管世界，而在于那些决定何为安全的大型AI企业。她强调，独立测试和政府监管至关重要。

网络安全专家David Allott则表示，真正值得警惕的并非AI获得了全新的攻击能力，而是AI代理能够以机器速度自主组合多种能力、获取凭证和系统访问权限，并自主调整行动的范围和规模。

这一系列AI自主执行任务时突破限制的事件，正值科技公司投入数十亿美元开发能够独立执行研究、客服和网络安全等任务的AI代理之际。美国总统特朗普本周表示，华盛顿正在考虑采取措施加强对AI工具的管控。

值得留意的是，OpenAI与Anthropic目前正准备进行规模庞大的上市计划，两家公司估值预计均接近1万亿美元（约7400亿英镑）。有声音质疑这些披露的时机，认为可能与市场推广存在关联。OpenAI发言人回应称，承认外界存在诸多疑问和猜测，公司计划在未来几周发布技术报告说明情况。