SK电讯与Upstage组建AI网络安全联盟

IT时代网10月8日消息,据Chosun报道,SK电讯宣布与Upstage、多家信息安全企业及高校共同发起“独立AI网络安全联盟”,并签署了围绕AI信息安全技术开展合作的业务协议。签约仪式10月7日在首尔中区SK电讯大厦举行。

参与签约的机构共11家,包括SK电讯与Upstage,SK Shieldus、Secui、安博士、RaonSecure、Genians、Piolink六家信息安全企业,以及高丽大学、崇实大学和釜山大学三所高校。

这份协议的目的是把SK电讯A.X K系列与Upstage的Solar进一步延伸到网络安全领域,两家公司的模型均已进入韩国政府“主权AI基础模型”项目第三阶段。各方计划用安全企业提供的恶意代码分析、漏洞分析和安全管控等数据训练模型,提升AI对安全态势的理解和判断能力。

训练分两个阶段推进。预训练阶段以安全数据强化模型的基础认知:SK电讯的下一代模型A.X K3会系统学习安全相关数据,并补充面向大众的AI服务安全运行所需的数据;Upstage则着重训练能够分析大规模代码和长周期日志的下一代Solar,用于漏洞检测与分析。后训练阶段使用来自安全一线的运营数据,提升模型在软件漏洞分析与修补、安全运营中心事件响应、安全工具安全使用等任务上的实际表现。

参与的安全企业还会把A.X K与Solar接入零日漏洞分析、实时安全管控等产品与服务,并在真实运营环境中联合验证。验证过程中确认模型性能与安全性的同时,现场的分析与响应经验会回流到训练环节,形成数据获取、模型训练和效果验证的闭环。

联盟将实施“互相对抗”机制,由A.X K和Solar互相攻击与评估来发现漏洞,发现的漏洞再作为训练数据用于强化双方模型的防御能力。红队测试的设计与评估由参与高校以第三方视角负责:高丽大学评估AI分析可执行文件与抵御攻击的能力,崇实大学评判AI安全性能标准以及应对绕开护栏攻击的响应能力,釜山大学验证下一代模型与轻量化模型的性能与安全性。

编辑:林一舟

THE END