OpenAI封禁俄伊两起AI虚假门面影响力行动

IT时代网10月9日消息，OpenAI公布一起安全行动结果，封禁了分别来自俄罗斯和伊朗的两起隐蔽影响力行动。两起行动均借助AI与传统技术手段结合，运营所谓“虚假门面”机构，把地缘政治与冲突相关信息输送给目标受众。

其中伊朗行动维护着七个“记者”人设，借此向全球中小型网络媒体投递长篇文章，还批量生成主要围绕美伊战争话题的社交媒体评论；俄罗斯行动则疑似拉拢拉丁美洲不知情人士在实地运营一家“智库”，并伪造“泄露”文件与音频脚本，部分已被识别并在网络上传播。

两起行动都大量使用AI起草内部报告，其中俄罗斯行动对这类报告的依赖程度最高。OpenAI指出，双方还都以存疑或带有欺骗性的方法论夸大行动的实际效果。

OpenAI表示，这些行动与AI时代之前的复杂影响力操作高度相似，AI只是让部分工作流程变得更省力。相关报告旨在向监管机构、行业同伴与社会提示威胁行为方如何利用AI，并揭示其试图利用的漏洞。

编辑：林一舟