KT推出Token Factory平台 接入500余款AI模型

IT时代网10月28日消息,韩国运营商 KT 在首尔光化门发布人工智能平台 KT Token Factory,用户可在一处选择并管理 500 余款国内外人工智能模型,同时完成用量追踪与成本管理的整合。

该平台自本月 30 日起面向企业客户提供服务,这是韩国电信运营商首次推出此类服务。平台计划到明年 3 月把用户范围扩大至开发者与个人。

KT Token Factory 的核心技术是自研的自动模型路由,可根据任务类型、难度、质量、成本以及客户预先设定的模型范围自动选择模型。这项技术在模型选择性能的全球基准测试中位列第一。此外,平台还应用了提示词压缩技术,在保留语义与回答质量的前提下减少输入词元数量。

KT 方面称,该技术最多可将词元使用量降低 25%。目前平台已与多家国内外模型厂商建立正式合作。

编辑:林一舟

THE END