腾讯云TokenHub与TI-ONE完成训推治理全链路升级
IT时代网11月2日消息,2026腾讯全球数字生态大会日前在深圳举行,腾讯云在模型与MaaS服务专场宣布,大模型服务平台TokenHub和大模型训推平台TI-ONE全面升级,围绕模型供给、推理加速、服务治理及全球部署推出多项新能力,降低企业AI应用的开发、部署和运营门槛。
TokenHub此次围绕服务分级、开发提效、安全治理和全球拓展四个方向升级,从模型聚合平台向企业级AI服务与治理平台演进。平台已汇聚腾讯混元、DeepSeek、Kimi、MiniMax等主流模型,覆盖文本、代码、图像、视频等场景,兼容OpenAI与Anthropic接口协议,通过一个API Key即可接入平台模型,并提供模型广场和分场景评测,帮助企业比较效果、耗时与成本。企业还可按业务特点灵活选择供给方式:客服与语音外呼通过TPM预留保障吞吐,敏感业务选择专属模型单元,批量分析采用离线推理。
治理层面,Token Plan企业版支持按月订阅、向多个Key分配额度,Saving Plan提供按量优惠;Token治理套件按Key和服务拆分用量与账单,分配额度、限定模型权限,并通过请求标识追溯调用记录。平台还结合私网访问、算力隔离与全链路加密,提供可选的LLM-WAF服务,防护提示词攻击、检测敏感数据。
TI-ONE则依托自研TACO加速引擎,在数据通路、算子重构、并行通信、多级缓存、集群调度等方面全栈优化,单算子性能最高提升9倍,长上下文场景首字延迟降低87%,集群整体吞吐提升50%至70%。针对国产算力,平台两周内将Hy4 Preview的单卡吞吐提升至原来的5倍。训练方面,平台内置TACO-Train加速库,端到端性能提升1.73倍,目前已有30余家客户基于TI-ONE完成国产算力的生产级验证与落地。
大会上,长安汽车分享了智驾研发实践,TI-ONE助力其优化训练全链路后,项目单步训练耗时由4.83秒降至3.85秒;小米大模型团队也介绍了MiMo系列与腾讯云的合作,MiMo系列模型已接入TokenHub,并进入WorkBuddy、ima等腾讯产品持续验证。

注:本文中包含AI辅助创作的内容。
编辑:林一舟