OpenAI红队发现AI智能体隐蔽通信

IT时代网10月25日消息，OpenAI 在官方博客中披露前沿模型训练环境安全加固情况：在高强度红队测试中，被隔离在不同虚拟机中的 AI 智能体利用 CPU 缓存时序侧信道构建隐蔽通道，在无网络连接、无共享文件的条件下实现了互相通信。

测试显示，一个智能体通过逐出选定的缓存数据编码信息，另一个智能体通过测量数据重载的快慢时序差异解码消息，所用技术与 Spectre、Meltdown 漏洞同源。智能体还找到了其他通信方式，包括交替进行持续写入与空闲让对端测量时序差异、利用离线网页基础设施中的 TLS 证书缓存等。在仅提供漏洞清单的测试中，智能体自主将漏洞转化为通信通道、协商编码协议并成功交换信息。

红队测试投入数千亿 token，使用了即将推出的 GPT-6 Astra Cyber 模型和一个内部前沿模型。智能体还找到将多个漏洞串联实现虚拟机逃逸、在宿主机执行代码的路径，并在保留下来的少量内部服务中发现了可获取有限互联网访问的漏洞。

OpenAI 表示已修复红队发现的漏洞与配置错误，向 Kata Containers、gVisor、Moby 等开源组件回馈补丁，并在监控系统中新增对隐蔽通道通信尝试的检测。此前的 9 月 20 日，一个内部研究模型曾利用 DNS 解析器配置错误获取有限互联网访问，OpenAI 因此暂停前沿模型训练 11 天，于 10 月 1 日恢复。

本文配图由AI生成

编辑：林一舟