Anthropic向METR研究员开放员工级权限

IT时代网10月16消息称，Anthropic宣布已向一家前沿人工智能模型评估机构的六名研究员提供接近公司员工的访问权限，允许其独立评估该公司模型的安全实践与风险管理方式。公司称相关方将自行公布评估结果，公司放弃了一票否决权。

这家机构是METR，一家非营利的前沿模型评估组织。Anthropic表示，METR团队获得了由公司配发的笔记本电脑、办公场地，以及与自身风险评估团队大致相同的内部工具访问范围。

公司称，鼓励员工像与同事协作一样与评估人员共享信息。Anthropic将这一安排比作银行监管中的做法，即监管机构派驻resident examiners进入大型机构内部工作。

公布此项安排前，公司在上月承诺加强第三方独立评估，并签署了关于超级智能的外部评估合作承诺。

按Anthropic构建的三层评估体系，METR位于顶层，可获得员工级访问权限；中层评估方获得更多信息并可在无需批准的情况下发布结果；底层评估方仅做范围有限的评估，发布内容需公司批准。

公司同时说明，虽然不能阻止评估方发布内容，但可要求其在涉及客户数据、律师保密信息或模型架构等特定范畴时进行删减，并允许评估方公开说明其是否认为删减合理。

编辑：林一舟