MiniMax开源M3.1 Flash模型权重

IT时代网10月23日消息，MiniMax稀宇科技宣布开源MiniMax M3.1 Flash的模型权重，总参数428B，激活参数23B，相较上一代M3模型实现能力全面提升。

推理效率方面，M3.1 Flash通过全模型稀疏注意力、量化感知训练和功耗感知调度等优化进一步提升效率：前三个全注意力层替换为稀疏注意力，路由MoE专家迁移到W4A4（共享专家除外），稀疏注意力索引器和主分支从Q8KV8迁移到Q8KV4。

M3.1 Flash于10月19日上线，72小时内真实用户处理超过100万亿Token。

生态方面，MiniMax携手华为昇腾、平头哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数、英伟达、AMD等海内外芯片厂商，以及Together AI、Fireworks、Nebius、Baseten、Modal、DigitalOcean等推理和云服务平台推进开源首日接入；vLLM、SGLang、智源FlagOS和Hugging Face、魔搭等推理框架与开源社区也将共同推动模型在不同芯片、云平台和开发环境中的应用。

注：本文配图由AI生成。本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟