Base Labs联合Hugging Face共建开源模型安全基础设施

IT时代网9月18日消息，据海外媒体报道，Baseten旗下研究部门Base Labs推出了一项新的安全基础设施标准，并联合Hugging Face与Goodfire AI，为开源权重模型构建安全评估与监测基础设施。

这一动作出现在开源权重模型安全性讨论升温的背景下。这类模型可能因为一种被称为消融处理的技术被移除安全防护而变得危险，该技术近期使用量明显上升。问题规模不小：作为开源AI模型托管平台，Hugging Face目前列出的被消融模型已超过6000个。

编辑：林一舟