Kakao与AI安全研究院共建安全评估框架

IT时代网10月1日消息，据The Elec报道，Kakao 将与 AI 安全研究院合作，建立一套用于验证 AI 模型与 AI 智能体安全性的评估框架。

Kakao 表示，双方已在 9 月 28 日签署谅解备忘录，将共同开展 AI 安全评估并搭建评估框架，分阶段识别和验证 AI 模型与智能体中可能出现的风险。

分工方面，Kakao 将提供自家 AI 模型与 AI 智能体用于评估，并提供开展评测、开发评估工具所需的基础设施；AI 安全研究院负责实施安全评估，并推进评估方法论。双方将共同审阅评估结果、讨论信息披露的范围，并合作开发用于验证模型与智能体安全的工具。

合作分三个阶段推进：先对语言模型在部署前后进行安全评估，随后把范围扩展到多模态语言模型与 AI 智能体，最后联合开发 AI 安全评估工具。

两家机构去年曾对 Kakao 自研的语言模型 Kanana-1.5-9.8B 做过联合安全评估，Kakao 当时称该模型的安全性高于同规模的海外模型。Kakao 还制定了覆盖开发、部署与运营全生命周期的 AI 风险管理框架 Kakao ASI，此前与 KT 云签署协议共建安全 AI 生态，并设有由外部专家组成的 AI 与技术伦理小组委员会。

编辑：林一舟