英伟达谈AI安全：每一层都要工程化解决

IT时代网9月21日消息，英伟达发文指出，AI 安全本质上是一个工程问题，意味着要有明确的安全需求、可执行的管控、具名的责任主体，以及保护确实生效的证据。随着 AI 能力增强，行业必须加速安全工程、扩大防御工具的可及性，并更快分享有效做法。

文章认为，互联网与云计算改变了软件的运行方式，但核心安全职责始终未变：确立身份、控制访问、限制暴露面、验证保护是否生效。AI 智能体带来了推理、使用工具、依据所遇数据自适应行动等新能力，需要把既有的安全原则应用到新的运行条件下。

一个 AI 系统由模型、编排层与运行时三层构成，数据、指令与动作在层间流动，每一层都承担安全责任。文章举例：当智能体更新客户记录时，若在附带文档中遇到恶意指令并试图把客户数据导出到未授权目的地，网络策略应直接拦截该传输，受保护的日志则应记录这次工具调用、授权决定与结果，供安全团队定位所用工具与目标。权限不应由智能体自行授予。

编辑：林一舟