Cohere在Model Vault上线机密计算公测：客户可在发送数据前验证推理环境
Cohere宣布Model Vault机密计算功能进入公开测试，基于微软Azure上的NVIDIA H100 GPU，为推理中的内存数据提供硬件隔离，并通过远程证明让客户在发送请求前核验硬件、固件和软件配置。
AI解读：读者最需要弄清的问题是：这项功能保护的到底是哪一环。Cohere明确说，传统加密保护存储中和传输中的数据，机密计算针对“使用中的数据”，即推理运行时的内存；NVIDIA机密计算负责保护GPU内存并加密CPU与GPU之间的流量。因此它的保护边界在客户请求离开自己的环境之后、到Cohere推理环境之间，来源同时说明它不替代应用安全、合规、合同控制和数据驻留要求。
谁能用上取决于客户侧是否执行验证。Cohere称，客户侧软件会先核验关于硬件、固件和软件配置的加密签名证据，并与批准的安全策略比对；环境不满足策略时客户端拒绝发送请求。“可验证”依赖客户主动接入这一验证流程，而非仅开通服务即自动获得。
目前是公开测试而非正式商用。Cohere称该功能由微软Azure上的NVIDIA H100 GPU提供算力，客户可通过Model Vault创建和管理加密保管库，并沿用现有Cohere API和请求格式，附加保护内置在客户端和基础设施层。
Cohere于其官方博客宣布，Cohere Model Vault的机密计算功能进入公开测试，为托管的企业AI模型推理增加硬件支持的隔离和可独立验证的安全机制。
Cohere称，Model Vault提供专属、全托管的模型推理服务，机密计算把这一服务扩展到金融信息、临床记录、特权文件、专有源代码和知识产权等敏感负载。其目标被表述为：企业能使用托管AI的便利，同时让运营基础设施的一方无法访问敏感明文数据。
该公开测试由微软Azure上的NVIDIA H100 GPU提供支持。Azure提供底层机密计算基础设施，NVIDIA机密计算把相关能力扩展到H100 GPU，Cohere则通过Model Vault的模型服务、加密请求路径、远程证明和客户侧验证把这些技术整合起来。Cohere CTO Phil Blunsom、微软Azure机密计算产品负责人Vikas Bhatia和NVIDIA企业软件副总裁John Fanelli分别就合作发表评论。
保护推理过程中的内存数据
Cohere称，机密计算在Model Vault上保护“使用中的数据”。推理运行在横跨CPU和GPU的硬件支持机密环境中，硬件强制隔离使工作负载内存不受机密边界之外的软件和操作人员访问；借助NVIDIA机密计算，GPU内存受到保护，CPU与GPU之间的流量在模型推理时被加密。
除计算环境内部，Cohere称Model Vault还对请求内容做端到端加密：应用负载加密后发送至经过证明的机密环境，加密请求可经过中间基础设施而不暴露内容，只有机密环境能解密，响应返回路径也受到保护。客户继续使用Model Vault API和原有请求格式，Cohere称额外保护内置在客户端和基础设施层，不要求应用重新设计负载。
- 保护对象：推理运行时的内存数据，包括CPU与GPU之间的加密流量
- 客户侧验证：发送敏感数据前核验硬件、固件、软件配置的签名证据，不满足策略则拒绝发送
- 接口变化：沿用Model Vault API和现有请求格式
公测范围与限制
Cohere称，机密计算功能现已公开测试，客户可通过Model Vault创建和管理加密保管库，并使用同一套Cohere API集成。Cohere列出的适用负载包括金融服务中的欺诈调查、法律服务中的特权文件检索与尽职调查、敏感公共部门信息、专利和研究材料、专有工程与架构文档，以及专有源代码的搜索分析。
Cohere同时说明，机密计算不能消除所有风险，也不替代应用安全、合规、合同控制或数据驻留要求；它提供的是推理进行期间围绕数据和计算的硬件强制、可验证的保护边界。
- 状态：公开测试
- 算力：微软Azure上的NVIDIA H100 GPU
- 不涵盖：应用安全、合规、合同控制、数据驻留等要求