曝谷歌OpenAI与Anthropic筹建AI安全自律组织

IT时代网9月24日消息，据报道，谷歌、OpenAI和Anthropic三家头部AI公司正在自行推进成立AI安全标准机构，计划在没有政府监督的情况下，于今年年底或明年年初启动该组织。

知情人士称，三家机构暂定将其命名为前沿人工智能标准管理局（SAFA）。工作组部分成员曾考虑邀请多位知名人士出任CEO，还拟定过科学顾问候选名单，目标是建立一个面向前沿模型开发企业的行业自律组织。

按照规划，SAFA将承担多项核心职能：支持第三方机构在模型投入使用前开展测试，制定AI开发商报告安全与安保事件的方式，把各实验室此前自愿作出的安全承诺转化为具体实践标准，并确定独立模型及实验室审计人员应具备的资质。

目前此类测试由美国商务部人工智能标准与创新中心承担，部分工作组成员担心该中心资源不足，难以对前沿模型进行充分测试，因此主张由SAFA在现有基础上增加测试和评估项目，但双方职能是否重叠仍在讨论之中。

在闭门推进的同时，三家机构高管也在公开场合呼吁建立统一的安全标准，推动更深层次的国际协调。行业之外由哪些政府机构牵头制定标准，目前尚不明确。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟