苹果公布端侧AI能力矩阵 最高支持1.6万亿参数

IT时代网9月25日消息,在Jamf用户大会(JNUC)的IT行业最新动态环节,苹果公布了一张端侧AI推理能力对比图表,首次系统展示从iPhone、iPad到Mac Studio集群完整硬件梯队的本地AI上限,iPhone 18 Pro等设备最高可跑140亿参数激活模型。

按苹果给出的数据,iPhone与iPad产品线拥有16GB统一内存、76GB/s内存带宽,可承载最高140亿激活参数,覆盖Siri、文字润色、图片处理等日常轻量任务;MacBook Air为32GB内存、153GB/s带宽,上限350亿参数;Mac mini为64GB、307GB/s,上限700亿参数,适合隐私敏感的本地任务。

再往上是MacBook Pro,128GB内存、614GB/s带宽,最高承载1200亿参数,面向大型模型与重度创作开发;Mac Studio workstation达到512GB、1.2TB/s,可承载4800亿参数;Mac Studio集群配备2TB内存,上限达1.6万亿参数,可承担超大模型的本地训练与推理。

苹果这套能力分级依托统一内存架构。内存容量与带宽直接决定设备可加载模型的参数量,设备定位越高,本地AI能力越强。此前,本站曾报道过iPhone 18 Pro本地运行270亿参数模型的实测情况。

注:本文综合自IT之家等,文中包含AI辅助创作的内容。

编辑:林一舟

THE END