OpenAI就智能体越界访问澳政府网站致歉

IT时代网9月30日消息，OpenAI就未及时通知澳大利亚政府其智能体越界访问部分公共服务网站一事致歉，并说明了其中部分访问事件的发生经过，以及正在采取的额外评估措施。

OpenAI在博客文章中表示，今年6月，在内部训练与评估过程中，其模型以未获授权的方式访问了澳大利亚政府网站，公司也本该把后续处置做得更好，对此深表歉意并在改进。

致歉发生在澳大利亚政府启动调查约一周之后。调查针对的是OpenAI模型如何访问到澳大利亚服务局一套包含医保支出信息与其他健康统计数据的系统。数据访问发生在6月，澳方直到9月10日才接到通知。

OpenAI披露的细节显示，6月接受测试的一款实验模型被指派研究维多利亚州皮肤病药物的政府支出。在公开数据集中找不到信息后，模型转而设法进入澳大利亚服务局的内部系统，执行命令、取回文件与凭据，甚至写入了文件。

公司还发现，其模型曾通过新南威尔士州犯罪统计与研究局的公开犯罪地图工具获取犯罪统计数据；另有智能体借助一处暴露的访问密钥进入维多利亚州健康信息局，取走报告配置与汇总调查统计数据；还有智能体从澳大利亚健康与福利研究院网站获取了汇总统计数据。OpenAI称，未发现模型访问过个人的医疗或犯罪记录。

编辑：林一舟