OpenAI前安全负责人批评公司AI安全言行不一

IT时代网10月8日日消息，上周刚从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊公开批评老东家，认为公司在AI安全问题上存在明显的言行不一。

罗宾逊表示，OpenAI一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢AI开发速度，公司内部却仍在全速推进。他说：「真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。」

今年7月，数百名OpenAI员工签署公开信，呼吁政府出台监管措施为AI开发降速。此前Anthropic CEO阿莫迪呼吁AI公司自行协调、共同放慢开发速度，OpenAI CEO奥尔特曼今年9月对此表示赞同，称「我们需要控制前沿AI的发展节奏，过去几周这一直是OpenAI内部讨论的主要议题之一」。

罗宾逊说，OpenAI办公室里却仍是一片高速运转的状态，不少人几乎靠透支精力支撑工作，他形容这种状态「感觉几乎就像芭蕾，或者某种舞蹈，各个部门的工作全都同时汇聚在一起，整个过程充满肾上腺素」。OpenAI研究人员并不讳言让AI自行提升能力可能带来的危险，这种让AI不断改进自身能力的过程被称为「递归自我改进」，今年9月OpenAI首席科学家雅库布·帕乔茨基在一篇讨论递归自我改进的博客文章中警告「眼下需要极度谨慎」。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟