英伟达发布AI智能体安全平台毫秒级隔离

IT时代网9月28日消息，英伟达发布名为Open Agent Safety Platform的开放式AI智能体安全平台，可对AI智能体、智能体硬件与机器人系统进行全栈治理和控制，实现毫秒级隔离异常智能体。

该平台包含两款软件。其中OpenShell可在沙箱环境中运行AI智能体，把用户指令转化为可验证的安全策略，限制智能体对文件、网络、工具、进程和凭证的访问；另一款Sentry则把监控和安全控制延伸至BlueField数据处理单元，通过DOCA关联智能体的交互、策略决策及工具和数据访问记录，识别异常行为并在必要时进行干预。

英伟达解释称，AI智能体可能因工具、运行时长、指令歧义等因素偏离既定任务，因此需要独立于智能体本身的安全控制。平台针对英伟达Vera CPU和BlueField DPU系统优化，并兼容其他硬件系统。英伟达方面表示，如果相关实验室此前已部署这套技术，今年7月发生的模型攻击Hugging Face事件本可被阻止。在监管问题上，黄仁勋近期多次强调，AI安全应更多通过技术手段解决，而非单纯依赖新的监管框架。

注：本文配图由AI生成，文中包含AI辅助创作的内容。

编辑：林一舟