两年内超12名头部AI公司研究员离职谈安全担忧

IT时代网9月28日消息，过去两年间，OpenAI、Anthropic 与谷歌 DeepMind 等主要 AI 公司已有超过 12 名核心研究员离职，理由多与安全问题和技术推进速度过快有关。据Chosun报道，

据英国《金融时报》报道，英国政府人工智能安全研究院（AISI）的员工在测试最新模型期间，也出现了因压力申请病假或寻求心理疏导的情况。

在谷歌 DeepMind 负责 AI 芯片设计工具的 Robert O’Callahan 于 9 月 24 日离职。他在解释辞职原因时表示“AI 推进得太快”，并指出自己团队的研究会进一步加速这一趋势。他说，团队的目标是让 AI 变得更快更便宜，但他不认为这对当下的人们是好事。

离开大公司体系、转向独立机构做安全研究，正成为一种新选择。曾在 DeepMind AI 安全团队任职的 Josh Engels 近期转往独立 AI 评估机构 METR，他表示担心 AI 可能在未来五年内造成大规模伤害。同样来自该公司的 Bilal Chughtai 也因“AI 性能进步快于安全控制技术”而辞职。

本月早些时候从 Anthropic 离职的 Jacob Cockshott 认为，企业之间围绕超级智能的竞争是“拿我们的生命做赌注”。他提到，不少 AI 研究人员认为未来一到两年将是 AI 安全的关键期。

担忧并不限于 AI 失控，也包括被恶意方滥用。微软联合创始人比尔·盖茨在 9 月 25 日接受 NBC 采访时呼吁政府建立安全措施，称 AI 的强大程度足以引发导致 10 亿人死亡的事件。他指出的风险是高性能 AI 被恐怖组织或敌对国家用于武器研发与网络攻击，并表示“没有人认为仅靠自我约束就足够了”。

编辑：林一舟