Anthropic推AI安全法案草案 拟设灾难性风险门槛

IT时代网10月21日消息，人工智能公司Anthropic正在向外界推销其对AI安全立法的一份草案。这份草案设定了特定情形下AI模型可被阻止发布的条件。

触发阻止发布的条件涉及可预见且迫近的风险，即存在五十人以上面临死亡风险，或可能造成十亿美元以上财产损失的情形。这类灾难性风险需要源于生物武器的制造或释放、模型绕过开发者控制，或者网络攻击。

草案提出，可通过在相关政府部门注册的独立评估人来判断模型是否存在灾难性风险。这些评估人可以由AI实验室付费聘用，前提是付费与评估结果不挂钩。DeepMind主席戴密斯·哈萨比斯此前曾提出，自我治理的AI监管机构可以参照金融行业的做法。

按照草案设定，在独立评估人认定存在迫近的灾难性风险时，需要在七十二小时内联系美国商务部，商务部则需要向哥伦比亚特区联邦法官提出中止模型发布的请求。草案同时明确禁止任何联邦机构自行决定中止模型的发布。

草案给出的量化门槛与加州一项近期通过的立法较为接近，后者同样将类似情形定义为灾难性风险。

编辑：林一舟