OpenAI上线Ultrafast GPT-5.6 Sol提速14倍

IT时代网8月16日消息,OpenAI 近日对外预览了一项名为 Ultrafast 的新服务层级,该服务在 OpenAI API 中率先上线,可将 GPT-5.6 Sol 的生成速度提升至标准处理的 14 倍。

据介绍,Ultrafast 由芯片公司 Cerebras 提供算力支持,每秒最多可生成 750 个输出 token,让当前能力最强的模型也能进入对时延极其敏感的产品与业务流程。

OpenAI 表示,过去想要实时速度,往往只能选择更小或更具针对性的模型;Ultrafast 则试图在不牺牲智能水平的前提下提升单位时间内的有效工作量。在故障应急响应、金融研究与安全、客服与语音、电商等场景中,模型可以在用户仍在等待的几秒内完成多步骤分析。

在内部使用中,OpenAI 工程团队已经用 Ultrafast 模式下的 GPT-5.6 Sol 处理告警:当系统告警触发时,快速读取日志、分析调用链、归纳对话内容并辅助准备修复方案,将「观察信号—验证假设—决定下一步」的延迟大幅压缩。研究工作也同样受益,原本需要跑一整夜的批量实验,借助 Ultrafast 可在工作时间内完成多轮迭代。

目前 Ultrafast 仅向首批精选客户开放限量预览,OpenAI 表示将随算力扩张逐步扩大可用范围。

注:本文综合自OpenAI等,文中包含AI辅助创作的内容。

THE END