Meta开源Muse Spark Open模型

IT时代网10月16日消息,Meta 发布了 Muse Spark Open 的模型权重,这是该公司规模最大的开放权重模型。

Muse Spark Open 是一个原生多模态模型,总参数量 8160 亿、激活参数量 420 亿,上下文窗口 100 万 token。它面向代码编写与智能体任务,在长周期任务、复杂软件工程和多步推理方面表现突出。模型基于苹果最新版本的 MLX 框架做了适配,MLX 是苹果打造的开源数组框架,针对苹果芯片的统一内存架构优化。

苹果统一内存架构让 M5 Ultra 的集成显卡在单台 Mac Studio 上最多可使用 512GB 内存,两台机器即可容纳整个模型。该芯片 1.2TB/s 的内存带宽足以读取每个 token 所需的少量数据片段,官方称两台 Mac Studio 的效果相当于一台拥有 1TB 统一内存的超级计算机。

Meta 与苹果就此次合作进行了配合。苹果 CEO 约翰·特努斯表示,能够在办公桌上以这样的效率运行这一量级的模型很难得,Mac Studio 持续推动端侧 AI 的边界。Meta CEO 扎克伯格对苹果方面的协作表示了感谢。

搭载 512GB 内存的 Mac Studio 尚未发布,官方称将在本月晚些时候推出。在测试中,团队使用 Muse Spark Open 驱动的 Muse Code 在完全本地环境下运行了一系列智能体工作流,包括真实 iOS 应用的打包流程。

编辑:林一舟

THE END