A20 Pro 端侧实测：iPhone 18 Pro 本地跑270亿参数

IT时代网9月20日消息，苹果 A20 Pro 芯片搭载双 16 核神经网络引擎，这在苹果自研芯片的发展史上尚属首次。该神经网络引擎专为处理人工智能运算负载打造，官方称其性能超过此前所有 SoC。

最新演示显示，一台 iPhone 18 Pro 运行 270 亿参数模型时，速度可达 iPhone 17 Pro 的两倍。网友阿德里安·格龙丁在 iPhone 18 Pro 上运行了 Bonsai-27B 模型，模型生成词元的速度相当可观。

硬件层面的支撑来自内存。iPhone 18 Pro 与 iPhone 18 Pro Max 均配备 12GB、96 位位宽的 LPDDR5X 内存，速度相比上一代明显提升，内存带宽可达 115.2GB/s。在此基础上，双 16 核神经网络引擎在神经网络专用任务下的峰值吞吐性能，甚至超过芯片内部的 7 核 GPU。

大模型也有取舍

能离线跑更大的模型是一大进步，代价也随之而来。有讨论提出，既然 Bonsai 2 已经发布，是否还有必要继续使用初代 Bonsai，答案并不乐观：Bonsai 2 采用 2 比特量化，体积过大，无法完整存入 iPhone 18 Pro 的本地内存，运行时反而会掉性能。而初代 Bonsai 是 1 比特量化模型，4GB 内存设备就能跑起来，8GB 乃至 12GB 内存的手机运行更流畅。

按现有硬件，运行 Bonsai-27B 可以保持高速，不会出现降速卡顿。若后续机型继续加大内存规格，本地能支持的模型参数量与复杂度还将往上走。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟