奥尔特曼呼吁建立AI事故上报机制

IT时代网

2026-9-17 07:05:22

191

次

IT时代网9月17日消息，OpenAI首席执行官萨姆·奥尔特曼在赛富时Dreamforce大会上表示，部分AI事故无法完全避免，关键在于业界如何从事故当中吸取教训。

他提出，科技企业应当建立公开上报事故的企业文化，可以借鉴航空业的做法。奥尔特曼说，对于一项新兴技术而言，一定程度上的事故难以避免，自己真正在意的是能否形成一套完善的事故上报与复盘学习机制。他以美国联邦航空管理局与美国国家运输安全委员会作为AI行业应当效仿的范例，并表示事故终究还是会发生，要尽可能从每一起事故当中汲取经验，并据此作出应对。

这番表态出现在外界再度质疑头部AI实验室推进高能力自主系统节奏过快的背景下。多名AI安全研究人员提出，未来先进AI系统有可能摆脱人类管控，也会降低网络攻击、生物灾害以及其他灾难性威胁的实施门槛，只不过这类系统想要介入现实物理世界仍面临不少阻碍。奥尔特曼承认，人们对于AI末日论的担忧有其合理性，一方面存在AI失控事故的可能，另一方面少数研发机构手中也可能聚集起过大的权力。

他认为解决方案并不是放弃这项技术。与之相反，AI企业必须保证对齐、安全以及监控方面的工作大幅领先于模型能力本身的提升速度；如果做不到这一点，企业就应当做好准备，主动放缓甚至暂停研发工作。奥尔特曼强调，这并不代表要接受灾难的发生，核心在于如实披露各类事件、迅速复盘吸取教训，阻止事态进一步恶化。