微软扩大Foundry模型路由器接入50款模型

IT时代网11月18日消息,微软在Ignite 2026大会上宣布扩大Microsoft Foundry平台的模型路由器,接入池扩展至平台内前50款模型,并与AI Gateway协同工作、支持更多Messages和Responses API,帮助企业在不手动挑选模型的情况下平衡质量、成本与性能。

模型路由器并非全新功能,微软在2025年Ignite大会上已将其正式商用,它以单一部署形式评估每条提示并将其传递给合适的底层模型。此次扩容尚未给出具体上线日期。

客户可在三种路由模式中选择:均衡模式为默认选项,在每条提示最优模型附近的窄质量区间内选取性价比最高的模型;成本模式放宽该区间,官方文档举例约为5到6个百分点;质量模式则无论价格始终选择评分最高的模型。

背景是企业AI支出的持续攀升。Gartner今年8月预测,到2028年每个智能体工作流的AI推理成本将增长超过五倍,即便单token价格不断下降,把任务路由给智能体推理模型也会令推理成本至少提升五倍,该机构建议采用推理分层策略,将简单请求发送给更便宜的模型。

微软还宣布Microsoft-Decision-1.1决策模型正式商用,其在此前报道的微软决策模型基础上速度提升逾一倍、价格不变,微软首席执行官纳德拉透露公司内部已将其用于路由、数据标注、个性化和内容过滤。支出管理方面,Agent 365 Cost Management进入预览阶段,为管理员提供使用量、支出策略、限额与告警的统一视图。

注:本文配图由AI生成,文中包含AI辅助创作的内容。

编辑:林一舟

THE END