NVIDIA发布OpenShell参考架构,把AI智能体治理放在智能体之外
NVIDIA技术博客介绍,OpenShell是一个开源运行时,把智能体可访问的系统和数据权限交给外部组件强制执行;参考架构搭配Vera CPU,并可选配BlueField-4与Sentry做硬件隔离监控。文中性能数字来自NVIDIA与CoreWeave的测试。
AI解读:NVIDIA在技术博客中提出,自主智能体长时间运行、下载代码、申请权限,风险会随步骤累积;它据此主张智能体无法自我治理,安全控制应放在其运行的基础设施里。这是NVIDIA的立场,不是对智能体风险的外部验证。
OpenShell用四个组件拆分控制:Gateway管理沙箱生命周期和策略;Supervisor在沙箱之外检查出站请求并代为处理凭证;Sandbox隔离文件系统和进程访问;Policy prover用形式化验证检查策略权限是否超出组织设定的上限。适用对象是需要对智能体做访问控制的部署方。
NVIDIA称Vera有 88 个Olympus核,相比x86在关键智能体负载上最高 2 倍性能,每瓦性能 2 倍,并集成 96 条PCIe Gen 6通道和最高 1.2 TB/s的LPDDR5X内存带宽。这些均为NVIDIA给出的对比数据,未列出对照配置细节。
CoreWeave的测试被用来说明效果边界:沙箱启动在Vera上比x86快 3 倍以上,单机架支持超过 11,000 个并发智能体环境;Terminal Bench智能体循环任务上快 1.8 倍,覆盖脚本编写到数据库恢复等 20 个任务。这是特定基准和特定厂商的测试结果,不能外推为通用生产环境性能。
可选的硬件保护层是BlueField-4 DPU加NVIDIA Sentry。Sentry运行在与智能体隔离的域中,观察请求、网络和文件活动,验证身份与委托权限,分析部分主机内存以发现偏离授权行为;检测到违规时由BlueField-4在硅片层面执行策略,NVIDIA称可在毫秒级隔离智能体。该层是可选加固,不替代OpenShell的软件边界。
NVIDIA在开发者博客发布OpenShell参考架构,用于在基础设施层对AI智能体做安全与治理。OpenShell是开源运行时,定义并强制执行智能体可访问的系统与数据,涵盖文件、互联网服务以及和物理设备交互的系统。
博客称智能体在长任务中会下载代码、构建工具、申请额外权限,行为路径由推理过程决定,因此NVIDIA主张智能体不能自我治理,控制必须放在智能体触及不到的地方。这是NVIDIA的论述前提。
四个组件如何分工
OpenShell把智能体工作负载在全程视为不可信,按需授予访问。Gateway是控制平面,管理沙箱生命周期和策略;Supervisor完全独立于沙箱运行,检查出站请求是否符合策略,并代理凭证访问;Sandbox隔离智能体工作负载,限制文件系统和进程访问;Policy prover增加形式化验证,检查策略权限是否留在组织设定的上限内。
博客还列出扩展点:Supervisor中间件可检查、阻断或修改智能体经网络收发的信息;Gateway拦截器允许运营方在不修改网关的情况下加入部署特定治理。身份、授权、数据保护和审计被列为需要组织自行建立、可通过OpenShell执行点接入的部分。
Vera的定位与NVIDIA给出的性能数字
参考架构中OpenShell运行在NVIDIA Vera CPU上。NVIDIA把智能体负载描述为串行依赖步骤的循环,需要大量核心、快速单核、高带宽内存和I/O,并要求硬件级隔离。Vera的配置包括 88 个NVIDIA设计的Olympus核、第二代Scalable Coherency Fabric、LPDDR5X内存和 96 条PCIe Gen 6通道。
NVIDIA给出的对比数字是:关键智能体负载最高 2 倍于x86的性能,核间带宽最高 3 倍,核间延迟低至 50%,每瓦性能 2 倍,LPDDR5X内存子系统功耗比DDR5配置低一个数量级。这些是厂商对比数据,博客未说明对照x86的具体型号与测试条件。
CoreWeave测试覆盖的范围
AI云平台CoreWeave的测试被引用来支撑沙箱密度:在Vera上沙箱启动比x86快 3 倍以上,单机架支持超过 11,000 个并发智能体环境。在Terminal Bench上,Vera完成智能体循环任务比x86快 1.8 倍,覆盖脚本编写到数据库恢复等 20 个真实任务。
这些结果说明的是特定基准和特定厂商环境下的表现,适用于评估沙箱启动和循环任务吞吐,不能直接换算为其他工作负载或部署规模下的收益。
可选硬件层与适用条件
对需要额外保护的部署,BlueField-4 DPU在Vera上运行的智能体与所访问模型之间的I/O路径中提供硬件隔离的可信域。基于NVIDIA DOCA的Sentry安全框架在该独立域中运行,观察请求与响应、网络和文件活动,验证身份与委托权限,分析部分主机内存以发现偏离授权行为。检测到威胁或违规时,BlueField-4在硅片层面执行策略,NVIDIA称可将智能体在毫秒级隔离。
博客明确这层是OpenShell软件边界之外的可选硬件加固,不是默认必需组件。整套参考架构由运行大模型的NVIDIA Vera Rubin平台、OpenShell和BlueField-4上的Sentry组成。