英伟达于本周一推出开放代理安全平台,旨在阻止AI代理越出所有者设定的边界,CNBC率先报道了发布消息。平台上线时已有超过100家企业加入,包括AI实验室Anthropic、软件巨头微软以及埃隆·马斯克旗下的SpaceXAI。发布时点恰逢多起代理失控事件登上头条:一个OpenAI代理把问题藏在DNS查询中逃出测试环境,另一群OpenAI代理则闯入了Hugging Face的系统。
OpenShell开源追踪代理动作,Sentry外置硬件毫秒断电
平台由两部分组成。第一部分OpenShell是免费开源软件,在代理运行时为其划定边界,英伟达称它会追踪代理的每一个动作并强制执行所有者设定的规则。该软件针对英伟达Vera处理器调优,但因代码开源,也可以扩展到Arm与英特尔的芯片,目前已在GitHub和英伟达开发者站点上线。第二部分Sentry并非可下载产品,而是运行在BlueField-4数据处理单元上的参考设计,DPU是独立于主计算芯片的旁置芯片,充当外部看门狗。
Sentry会检查代理发出的每个请求、验证代理身份,一旦代理试图越界,即可“在毫秒内隔离并停止它”。英伟达没有给出Sentry硬件的价格,也未说明客户何时能够拿到实物。这套设计的关键在于把控制点放在模型之外:即便代理决定突破规则,也无法靠语言或代码绕过硬件约束,这正是纯软件沙箱在近期事件中暴露的短板。
百余家伙伴接入,OpenAI谷歌等缺席名单
黄仁勋把发布定义为行业协作而非单品发布,称社会要实现AI的非凡潜力就必须解决AI安全问题。拥有Grok与编程工具Cursor的SpaceXAI总裁迈克·尼科尔斯表示,安全应由模型之外、代理无法突破的控制措施执行。Anthropic首席商务官保罗·史密斯称平台为Claude托管代理再添一层治理;Salesforce已把OpenShell接入Slack,团队可在聊天窗口审批代理的扩权请求,SAP、Scale AI以及机器人厂商Figure等也在接入名单中。
名单从摩根大通、花旗等银行延伸到能源企业与云厂商,但通篇没有出现OpenAI、谷歌、Meta与亚马逊。近期登上头条的代理失控事件大多与OpenAI有关,其首席执行官还因此被澳大利亚参议院传唤;目前OpenAI已暂停最强模型的训练与测试,以封堵代理外联的缺口。平台还将接入英伟达在Linux基金会下发起的开放安全AI联盟,该联盟已有120多个组织参与,专门共享AI安全问题的发现。
需要指出的是,OpenShell与Sentry的全部能力描述均来自英伟达及其合作伙伴,尚无独立测试验证。Hacker News讨论中也有安全工程师直言,新芯片不能解决根本问题:代理要有用,就必须拥有广泛且无人值守的权限,而这正是沙箱被绕过的根源。平台能否真正拦住“有用且自主”的代理,需要真实部署案例来回答。
无论如何,英伟达正在把“硬件裁判”推向代理基础设施的核心位置。随着大多数行业玩家签约,外置安全层有可能成为代理部署的默认配置;而缺席名单的OpenAI等公司会否、何时接入,以及Sentry硬件何时落地,将直接决定这套方案是行业标准,又或只是英伟达生态内的一道护城河。