ithome
科技
采集 2026-09-28T10:09:27+00:00
英伟达发布AI智能体安全平台可实时隔离异常智能体
原始标题:英伟达发布 AI 智能体安全平台,可实时隔离异常智能体
来源
ithome
发布时间
2026-09-28T09:33:59
采集批次
2026-09-28-10
字数
506
URL 指纹
36bb893431f4f814
📌 AI 总结(225 字)
英伟达推出开放式AI智能体安全平台,包含OpenShell安全软件和NVIDIA Sentry看门狗系统,可对AI智能体进行全栈治理。OpenShell可为CPU上的AI智能体设定边界,兼容开源及闭源模型,并与Arm、英特尔等平台兼容。Sentry系统基于BlueField-4 DPU运行,能毫秒级检测并隔离试图越界的异常智能体,在芯片层面独立执行安全策略。Anthropic、SpaceX和Scale AI等公司已将该平台用于其AI模型与智能体。
📄 正文(506 字)
英伟达今天发布开放式AI智能体安全平台(NVIDIA Open Agent Safety Platform),可对AI智能体、智能体硬件、机器人系统等进行全栈治理和控制。 该平台包含英伟达OpenShell安全软件,可对运行在CPU的AI智能体设定边界,支持开源/闭源模型。同时,该工具在Vera平台的性能占用非常低。OpenShell与Vera结合后,可让AI智能体在尽快完成工作的同时保证安全。OpenShell作为开源软件可支持第三方平台,包括Arm和英特尔产品。 英伟达本次还宣布推出看门狗系统NVIDIA Sentry,可持续监控AI智能体的行为。如果AI智能体试图突破软件枷锁,Sentry可在毫秒时间内将其隔离、停止运行。 Sentry运行在BlueField-4 DPU上,可以持续监控AI智能体的活动,在芯片层面独立执行安全策略。它将威胁检测、基于硬件的智能体治理与执行,以及数据访问保护结合,通过独立于智能体和攻击者、能够实时响应的带外信任域来实现上述功能。 此外,Anthropic、SpaceX和Scale AI等公司已经与英伟达合作,将OpenShell用于其AI模型和智能体。