小米MiMo-V2.6进入强化学习训练阶段

IT时代网9月17日消息,小米MiMo大模型负责人罗福莉发文称,自4月开源MiMo-v2.5之后,小米沉寂了近半年,团队用这段时间研究一件事,即强化学习究竟能扩展到多远。

据其介绍,MiMo-V2.6目前正处于强化学习的中间阶段,团队为该模型扩展了三项能力。一是计算,每步约20亿个Token,采用1568个Prompt、每个16条Rollout,完全异步运行;二是环境和工具,通过多任务智能体强化学习,在一次运行中混合多个框架;三是Grader Compute,为打分与评分过程本身增加算力,包含Agentic In-group Credit Assignment,并纳入测试案例和评分标准奖励。

罗福莉表示,小米MiMo团队将在接下来的几周内逐步开源这些细节。她还公布了MiMo-V2.6模型的训练直播页面,显示该模型训练总花费已超过125万美元,按当前汇率约合840.3万元人民币,页面同时显示MiMo-V2.6即将推出。

注:本文综合自IT之家等,文中包含AI辅助创作的内容。

编辑:林一舟

THE END