英伟达发布开放智能体安全平台 围绕运行中的Agent加管控

IT时代网9月29日消息，据ServeTheHome报道，英伟达发布了Open Agent Safety Platform，这是一套开放软件平台与参考系统设计，目标是把AI安全管控从智能体测试阶段一直延伸到部署阶段，覆盖运行智能体的软件、硬件、算力与机器人系统。

英伟达方面提出，近期发生的多起安全事件指向同一个模式：智能体绕开了应用层的安全控制，去完成被指派的任务。公司创始人兼首席执行官黄仁勋表示，AI对社会的巨大潜力只有在安全问题得到解决后才可能兑现，随着AI能力边界不断外推，安全边界上的探索也要加速，而安全与防护需要全栈工程能力。

在组成上，OpenShell 0.1.0作为开源运行时包在现有智能体框架外层，而不是替换它们。它支持Codex、Claude Code、Hermes和Pi等工具，把它们的执行过程放进带内核级隔离的沙箱环境中。网关侧负责管理跨智能体集群的沙箱生命周期与策略，每个沙箱配一个Supervisor进程，按既定策略检查向外的HTTP、GraphQL和MCP流量，沙箱则通过操作系统层面的机制约束文件系统与进程行为。

英伟达表示，这套平台将联合产业界、研究机构和公共部门组织，共享最佳实践、对齐评测方法并推动国际合作。

编辑：林一舟