OpenAI发布前沿AI风险管理说明
IT时代网11月19日消息,OpenAI发布题为管理前沿AI风险:从训练到部署的安全政策说明,首次系统披露研发、内部使用到公开发布阶段,如何在高能力模型的全生命周期中管控风险。OpenAI称由于前沿模型的能力正快速增强,理解、对齐和保障模型的能力必须始终领先一步。公司维持引入安全案例流程,要求在训练全程提供更有力的行为对齐证据,这些措施虽会拖慢发布节奏,但会增强安全推进的信心。OpenAI强调其保护措施围绕四层展开:模型对齐让AI系统可靠地按照预期方式行动;安全和沙盒限制模型能够访问或影响的文件、工具、网络及其他资源;保障阻止措施包括安全分类器,防止网络滥用或协助生物武器;监测与响应用来检测令人担忧的行为。在部署层面,OpenAI称正持续训练分类器以检测危险能力,并对智能体发布采取分阶段滚动推出,先内部试用再逐步扩展到外部用户。

注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟
THE END