200万条金丝雀提示词实测 AI供应链泄露普遍

IT时代网11月21日消息,安全公司 Dragos 首席研究官 HD Moore 带领团队完成一项为期五个月的测试:向主流 AI 服务发送约 200 万条内嵌唯一追踪密钥的提示词,追踪这些“金丝雀”密钥的去向。结果显示,AI 服务链路存在系统性的数据泄露与隐私保护失效。

测试中,团队把从未使用过的 AWS 访问密钥、SSH 等服务凭据、唯一 URL 和域名埋进每一条只发送给单一供应商的提示词里。任何密钥被使用,都意味着有人看到了原始提示词内容。

最严重的发现是三家 AI 托管服务商遭遇入侵:攻击者复用了数百个测试密钥,在数小时内验证密钥效力,枚举 S3 存储桶、检索密钥管理服务,还试图启用云上托管模型并创建自有账号以维持访问。植入密钥累计被用于数万次 API 调用,其中一把密钥在被植入三天后仍在被使用。两家被入侵服务商的失窃数据几乎同时从同一台租用服务器上被调用,指向同一攻击方。

研究还发现,部分推理市场的转售商通过平台自带的日志功能即可查看并留存客户提示词,无需利用任何漏洞;部分被用户标记为零数据保留或拒绝采集的请求,同样被留存、抓取,甚至转给了第三方。

研究人员建议,处理敏感信息时应绕开低价推理转售市场、直连一级供应商,避免在提示词中出现真实凭据,并自行部署金丝雀令牌以监测泄露。

注:本文配图由AI生成,文中包含AI辅助创作的内容。

编辑:林一舟

THE END