英伟达推出开源安全平台，旨在毫秒级隔离失控AI代理

一句话结论

英伟达发布基于开源软件的代理安全平台，通过预检机制实现毫秒级隔离越界行为，强化AI系统自主性风险管控。

关键要点

• 平台整合Nvidia OpenShell开源软件与Sentry安全组件，形成双重防护架构
• 支持自定义AI代理可访问的数据范围，在任务执行前后持续监控行为边界
• 异常行为检测响应时间达到毫秒级，可在越界行为发生瞬间实施隔离
• 系统运行于Nvidia Vera AI CPU平台，专为高并发AI代理场景设计
• 平台以开源形式提供，允许企业用户根据自身安全策略进行定制化部署

背景与事实

2026年某日，英伟达宣布推出Open Agent Safety Platform，该平台专门用于监控和约束AI代理的行为边界。此发布背景是近期多起黑客利用AI代理实施未授权操作的事故频发，路透社等媒体已对此类事件进行过报道。该平台核心架构分为两个部分：第一层是基于Nvidia Vera AI CPU运行的OpenShell开源软件，作为代理行为的运行时环境；第二层是独立的Sentry安全组件，负责持续监测代理执行过程中的异常行为。

根据英伟达官方说明，OpenShell允许管理员在任务执行前明确定义AI代理可以访问的数据资源范围，这些访问权限限制会在代理执行任务前进行预校验，并在任务执行过程中持续检查。当系统检测到代理行为超出预设边界时，Sentry组件会在毫秒级时间窗口内触发隔离机制，将异常代理从主系统中隔离出来，防止其进一步访问敏感数据或执行未授权操作。

该平台的开源特性意味着企业用户可以获取OpenShell的代码实现，根据自身的业务安全需求进行定制化开发。例如金融、医疗等对数据安全要求严格的行业，可以基于开源框架构建符合行业监管要求的安全策略。Nvidia Vera AI CPU作为硬件基础，为平台提供了必要的计算资源支持，确保在大规模AI代理并发运行时仍能保持毫秒级的响应能力。

影响分析

对于中文开发者而言，这一平台提供了比传统沙箱技术更精细化的代理行为管控手段。传统沙箱主要隔离整个应用环境，而Open Agent Safety Platform允许对单个AI代理的数据访问权限进行动态调整，更适合多代理协同工作的复杂场景。开发者可以将此平台作为参考架构，在构建企业级AI系统时引入类似的双层安全机制：运行时环境层面的行为约束加独立监测层面的实时审计。

从行业实践角度看，该开源方案降低了安全组件的获取门槛，中小型企业也能以较低成本部署代理安全监测能力。但需注意，平台效果依赖于管理员对访问权限策略的合理配置，若边界设定过于宽松或过于严格，都会影响AI代理的任务执行效率。对于已在生产环境部署AI系统的团队，建议评估现有安全架构与OpenShell框架的兼容性，逐步引入持续监测机制而非简单替换现有方案。

适用边界

该平台的隔离机制主要针对已明确定义边界内的AI代理行为异常，对于完全未知的新型攻击向量可能缺乏有效检测能力。此外，毫秒级隔离响应前提是Vera AI CPU硬件平台的完整支持，在其他硬件架构上部署可能无法达到同等性能指标。平台假设管理员具备定义合理访问权限的专业能力，若配置不当反而可能阻碍正常业务执行。对于需要完全离线运行的场景，平台依赖网络连接的实时监测特性可能不适用。

孤本观察

基于来源信息，英伟达此次将安全组件与开源运行时分离的设计思路值得关注，这种架构解耦使得安全策略更新无需修改核心运行时代码，降低了安全补丁的部署复杂度。但来源未披露该开源项目是否提供现成的安全策略模板，实际落地时开发者可能仍需投入大量时间定制符合自身业务场景的访问控制规则。

来源：The Verge AI