英伟达发布Sentry框架:在BlueField-4 DPU上隔离监控AI智能体
英伟达技术博客介绍,Sentry运行在BlueField-4 DPU的独立硬件信任域中,位于智能体访问模型与外部网络的唯一路径上,可在不依赖智能体或主机软件配合的情况下检查通信并执行策略;计划于明年初可用。
AI解读:英伟达在GTC Berlin宣布的NVIDIA OpenShell参考架构中,包含名为NVIDIA Sentry的安全软件框架,用于监控AI智能体并执行其对模型、工具和数据的访问策略。
Sentry基于NVIDIA DOCA构建,运行在BlueField-4 DPU上,提供与主机隔离的运行时保护。英伟达称其位于智能体通往模型和外部世界的唯一路径上,检查智能体与模型的通信,不依赖智能体自行上报行为。
该框架由DOCA Tower(基于Envoy的AI安全网关)和DOCA Argus(对主机内存做实时内省)等组件构成,结合Open Policy Agent策略引擎,将网络连接与发起它的进程、容器哈希和运行时环境关联起来评估访问请求。
英伟达称Sentry可用专门AI模型对智能体通信做在线或旁路分类,检测行为偏离设计意图,并在检测到异常时请求毫秒级的芯片内隔离与隔离区处置,即使智能体逃出沙箱仍保留监控与执行能力。
英伟达表示开发者与安全团队目前可通过DOCA库和微服务(包括DOCA Argus、DOCA Flow、OVS-DOCA)先行探索,Sentry本身计划于明年初可用。上述能力与效果均为英伟达自述,博客未提供第三方测试或部署数据。
英伟达技术博客发文介绍NVIDIA Sentry:一个监控AI智能体并执行其访问策略的安全软件框架。文章称该框架运行在BlueField-4 DPU上,处于与主机隔离的硬件信任域中,位于智能体访问模型和外部网络的唯一路径上。
Sentry属于英伟达在GTC Berlin宣布的NVIDIA OpenShell参考架构。在该架构中,智能体运行在Vera CPU上,BlueField-4位于节点通往模型的路径上,Sentry检查智能体与模型之间的通信并在芯片内执行访问策略。英伟达称其计划于明年初可用。
为何把执行点放在主机之外
文章开篇称,AI智能体可以完成既定任务,同时越过安全边界;近期事件显示智能体在使用工具、凭据和服务时可能绕过安全控制。英伟达据此主张,监控与执行需要在智能体触及不到的地方运行,使其无法修改或关闭这些机制。
Sentry的定位是在OpenShell的软件运行时边界之外再加一层硬件隔离保护。OpenShell将策略执行与智能体工作负载分离,使被攻破的智能体无法修改自身限制;Sentry则在BlueField-4上以带外方式运行,英伟达称其处于智能体的可达范围与感知范围之外。
通信检查与策略评估如何衔接
Sentry的AI安全网关名为DOCA Tower,基于开源代理Envoy构建,作为透明代理在智能体与外部环境之间做双向检查。文章称智能体网络流量经直连I/O路径到达BlueField-4,绕过主机操作系统或虚拟化层的报文处理。
DOCA Flow在BlueField-4上为每个智能体实现四层防火墙,阻断未授权目的地的连接,并把允许的流量转给DOCA Tower做七层检查与授权。DOCA Tower利用芯片内TLS加速完成TLS终结,对配置为检查的连接解密后审查。策略评估使用开源策略引擎Open Policy Agent和Rego语言,文章称其本地内存运行,依据策略复杂度和配置可在 1 毫秒内完成请求评估。
用运行环境信息判断访问是否放行
仅看网络通信不足以判断智能体的安全与完整性。DOCA Argus通过实时内存内省分析主机易失内存的选定区域,在BlueField-4上独立运行,无需在主机内安装代理,从而在不占用主机计算资源的情况下获取运行状态证据。
文章举例说明策略可要求容器哈希匹配批准列表、发起进程的哈希出现在容器软件物料清单中、进程拥有发起网络连接的权限并使用批准的执行路径和命令行参数。Sentry将DOCA Tower的网络连接信息与DOCA Argus的运行时上下文关联后再判定是否放行。
行为检测、响应与记录
英伟达列出若干告警信号:执行未批准工具、用ptrace攻击其他进程或派生进程攻击智能体、出站流量异常偏高提示数据外泄、未授权文件访问或改动、CPU峰值、临时目录过量写入以及大规模删除文件。检测到偏离后,Sentry可请求芯片内毫秒级遏制,在智能体或主机软件不配合的情况下隔离智能体。
Sentry还对接专门AI模型,用工具调用和可得的推理轨迹对智能体通信分类,判断其行为是否与设计意图一致,支持在线拦截与旁路响应两种方式。DOCA Tower在智能体和主机软件触及不到的位置记录检查过的通信与策略决定,DOCA Argus独立贡献运行时信号,英伟达称智能体修改自身环境内的日志无法改动BlueField-4上保存的这份记录。
身份、扩展与可用时间
DOCA Tower集成SPIFFE/SPIRE以支持可验证的工作负载身份,也可对接合作方身份系统,把身份、权限和运行时证据一起纳入应用层策略评估。
英伟达称合作伙伴可通过Envoy的扩展机制和DOCA库、微服务定制监控与执行逻辑,并计划发布核心插件,其中包括把智能体通信及其推理轨迹暴露出来供进一步分析的插件。文章表示开发者目前可用DOCA Argus、DOCA Flow、OVS-DOCA等先行实验带外可观测与基础设施执行,Sentry本身计划于明年初可用。