英伟达与Salesforce推Koa推理大模型
IT时代网9月15日消息,本周在规模盛大的 Dreamforce 技术大会上,Salesforce 发布了一款名为 Koa 的全新 AI 模型,这也是该公司首款推理大模型。Koa 基于英伟达开源权重的 Nemotron 模型打造,双方联合完成后续微调训练,使其擅长处理销售、市场营销与客服类任务。
作为闭源前沿大模型之外、采用开源权重的备选方案,Koa 专门针对实际业务任务训练,而非主攻高难度数学解题;微调阶段没有摄入任何真实客户数据,因此不存在向外泄露客户数据的风险;同时有助于降低 AI 使用成本,完成同等业务任务所消耗的 Token 数量更少,并可经 AI 网关实现自动调度路由,完全遵从客户的数据管控要求。
据悉,Koa 将作为 Agentforce 平台上的可选模型。客户可在该平台搭建 AI 智能体,处理客服问答、预约排期等重复性工作。Salesforce 人工智能业务高级副总裁杰耶什·戈文达拉扬表示,过去复杂推理任务一直依赖外部前沿模型服务商,如今这一局面终于改变。在微调阶段,双方使用自行生成的合成数据集模拟客服业务场景,而非真实客户数据。
Salesforce 并没有就此放弃与 Anthropic、OpenAI 的合作。该公司刚刚宣布与 Anthropic 达成名为 ClaudeForce 的合作项目,企业用户可直接以 Claude 作为 AI 交互前端,而业务数据仍保存在 Salesforce 的业务记录系统内,由平台基础设施提供安全防护。

注:本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟