加拿大AI公司Cohere推出Model Vault机密计算公测,基于英伟达H100与微软Azure实现推理中数据加密
Cohere在Model Vault中集成机密计算,允许企业在使用托管AI时通过硬件验证保护敏感数据,解决“使用中”数据的隐私难题。
加拿大人工智能公司Cohere于2026年10月22日宣布,其面向企业的模型推理服务Model Vault现已支持机密计算(Confidential Computing)并进入公开测试阶段。该功能基于微软Azure基础设施和英伟达H100 GPU的机密计算能力,旨在为金融、医疗和法律等行业的敏感工作负载提供硬件级保护。
传统加密主要保护存储中和传输中的数据,而机密计算针对的是“使用中”的数据。在Model Vault的新架构中,推理过程运行在由CPU和GPU共同构成的硬件隔离环境中。英伟达的机密计算技术确保GPU内存受到保护,且CPU与GPU之间的通信在模型执行推理时被加密。这意味着即使是云服务商或Cohere的基础设施管理员也无法访问明文数据。
除了硬件隔离,Cohere引入了远程证明(Remote Attestation)机制。客户可以在发送敏感数据前,通过软件对处理环境进行密码学验证,检查硬件、固件和软件配置是否符合安全策略。如果环境未通过验证,客户端将拒绝发送请求。这一机制将信任模式从“相信供应商的承诺”转变为“自行验证技术控制”。
此外,Model Vault还实现了应用层载荷的端到端加密。请求内容在进入机密环境前保持加密状态,仅在该受信任的环境中解密,响应返回时同样受到保护。Cohere首席技术官Phil Blunsom表示,此举让企业无需在托管AI的便捷性与对敏感信息的控制权之间做出选择。