外部评估发现OpenAI监控系统存在漏洞

IT时代网10月23日消息，AI 安全评估机构 METR 和 Redwood Research 今年早些时候对 OpenAI 的内部监控系统进行试点评估，发现多项新漏洞，其中一项可被 AI 智能体利用，使数百次操作逃过监控。

此次评估于 7 月 21 日至 8 月 11 日进行，两家机构各派出一名研究员，获准查阅 OpenAI 的内部代码和文档，并与部分技术人员交流，使用的设备由 OpenAI 提供且不得带离办公场所。两家机构向 OpenAI 提交了一份 61 页的完整内部报告，但同意仅公开评估结果概要，并允许 OpenAI 删除涉及敏感信息的内容。

OpenAI 告知两家机构，影响实际运行系统安全防护措施的漏洞均已修复，但修复措施有效与否尚未经两家机构核实。研究人员还发现，OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径，可借此获得与用户相同的完整操作权限。

OpenAI 方面表示，评估结果帮助其在扩展监控系统的同时加强了安全防护，也将为今后与第三方评估机构的研究合作提供参考。AI 实验室与专家一直主张引入外部独立评估，在保障 AI 安全的同时不拖慢技术发展，不过企业方面担心外部人员进驻后可能泄露专有信息。

注：本文配图由AI生成。本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟