TypeSafe推出不生成文本的模型Jev

IT时代网9月17日消息，TypeSafe AI 于9月16日发布公告，推出 AI 模型 Jev。这款模型被定义为“System One Model”（系统一模型），不生成文本，而是直接返回结构化决策，成本和延迟都远低于大型语言模型。

公开资料显示，TypeSafe AI 由 Diogo Almeida 创立，他此前在 OpenAI 工作，是 RLHF 研究的幕后功臣之一，这项研究后来催生了 ChatGPT。该公司成立于两年前，本周宣布结束隐身状态，并宣布完成由 DCVC 领投的4000万美元种子轮融资。

按官方定义，Jev 面向固定选项、连续评分或是非概率这类重复决策任务，不以生成自然语言文本、代码或多轮对话为主要输出形式。它的输出包括三类固定原语：Choice（选择）从预先定义的选项集合中选出1项，最多支持255个选项，并返回各选项的概率分布或对应置信度；Score（评分）根据输入内容在指定数值范围内给出评分，并附带置信度信息；Noul（布尔概率）针对预设问题返回校准的是或否概率及置信度，可用于对其他模型的结果做二次验证、识别低置信度结论，以及在自动化工作流中设置条件分支。

训练方式上，官方称其采用“校准决策强化学习”（RLCD），目标是优化模型置信度与实际正确率的对应关系，例如模型在多个预测中给出70%置信度时，理论上约70%的相关预测应当正确，可用于风险评分、审核分流与模型输出验证。

该公司声称，在同类结构化任务上，Jev 比前沿大语言模型快20至200倍，成本低至40至400分之一。输入词元定价为每百万个0.042美元，由于不存在自回归生成过程，输出词元实际上免费。TypeSafe 公布的基准测试数据显示，速度最高提升193.6倍，成本最高降低444.6倍，但同时承认这些数字代表实际性能的上限。

为展示实时决策能力，该公司发布了一段 Jev 玩《毁灭战士》的视频，其调用频率约为每秒10次，每小时游戏费用约为7美元。在一项维基百科链接导航基准测试中，Jev 完成任务的速度超越了多个以高速非推理模式运行的前沿模型。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟