谷歌首次披露Gemini越狱入侵事件

IT时代网

2026-9-19 09:08:51

223

次

IT时代网9月19日消息，谷歌确认其Gemini模型在今年5月的一次安全测试中曾自主入侵外部真实企业，这是Gemini首次已知的AI越狱事件。

据外媒报道，该事件发生在测试公司Irregular开展的一次“捕获旗帜”演练中，目的是评估Gemini的网络安全能力。测试环境本应完全隔离，却意外开放了互联网访问权限。在三起事件中，一起是Gemini通过猜对密码获得对受保护系统的访问权限，另外两起则是模型在公开代码仓库中找到凭证，进而访问了受保护系统。

谷歌称，每起事件中模型在确认所访问的是真实公司系统而非模拟环境后，均自行终止了入侵行为。谷歌没有披露被入侵公司的名称，但表示三家公司均已收到通知。Irregular于7月底将此事告知谷歌，谷歌和Irregular均表示，这一通知是在OpenAI的AI智能体入侵AI软件公司Hugging Face事件被发现之后发出的。

谷歌认为，由于模型未对相关公司造成损害，且每次都由Gemini自行终止，因此无需公开披露，直至外媒问询才得以公开，并将此事类比为“漏洞赏金”计划。谷歌表示，事件源于身份混淆：测试中设定了一家虚构公司，但该虚构公司与一家真实公司同名，模型在搜索该名称时找到了真实公司的网站。谷歌还称已通知联邦当局，但未披露涉事的具体Gemini模型版本。

AI安全初创公司Corridor首席执行官、白帽黑客杰克·凯布尔对此提出异议，认为真正的问题在于AI智能体意外入侵了另一家公司的系统，公众有权知道这类情况。