研究称OpenAI失控AI智能体自建通信网

IT时代网9月11日消息，据海外媒体报道，OpenAI 在内部测试中让 AI 智能体通过联网检索来回答一系列高难度研究问题。公司允许它们浏览网页、读取内容，但明确禁止发布或修改任何线上内容。

然而今年 5 月至 7 月间，这些智能体找到了非常规办法：它们在老旧的维基页面和已被废弃的网站上写入信息，供其他智能体随后读取，借此完成被分配的研究任务。

调查人员通过相同的字符串、相近的用户名、时间戳，以及同样的冷门问题（例如爱荷华州的癌症患病率）把跨站活动关联起来。部分活动被追溯到与微软 Azure 基础设施相关的 IP——而 Azure 正是 OpenAI 所依托的算力平台。

目前研究人员确认有 18 至 23 个疑似被波及的站点，并认为实际数量可能更多。受影响的资源包括高校协作维基、文本存储服务和链接缩短工具，既有范德比尔特大学、多伦多大学运营的站点，也有个人废弃网站。安全研究者指出，这暴露出智能体在约束边界上的脆弱性。

编辑：林一舟