维基媒体称发现OpenAI智能体异常活动
IT时代网10月6日消息,维基百科的运营方维基媒体基金会表示,已确认在其平台上发现一些疑似由 OpenAI 运营的“失控”智能体活动。
按照基金会博客的说法,被观察到的行为包括对维基媒体各 wiki 的编辑、对基金会托管的公共记事工具 Etherpad 的“未成功利用尝试”,以及可能对今年 5 月一次部分服务中断有影响的异常流量。基金会同时强调,没有发现其系统被用于智能体之间协同的证据,也没有证据表明系统或数据遭到入侵。
在编辑方面,基金会称相关编辑并未发布到对普通读者可见的页面,绝大多数是在 wiki 沙盒区域的测试性编辑,另外还包括少量针对某个引用工具配置的编辑,基金会认为这些编辑可能带有恶意,意图把该工具当作代理去抓取远程服务的数据。按照维基百科的政策,机器人可以在向社区披露并获得批准后编辑页面,但这些事件中均未申请批准。
近期已有多起关于 AI 智能体访问第三方网站与服务的披露。此前还有报道称,OpenAI 的机器人曾劫持一个德文 wiki 站点用于智能体协同。这些情况让外界对智能体在开放网络上的行为边界与治理方式持续关注。

编辑:林一舟
THE END