高通CEO:AI厂商计划2028年手机常跑千亿参数模型

IT时代网10月11日消息,高通 CEO 安蒙日前在采访中透露,已有 AI 厂商向高通提出目标:2028 年要在手机上持续运行一个 1000 亿参数的大模型。他没有点名具体公司,只强调对方属于前沿领域的玩家。

安蒙还提到,一些 AI 公司已经开始自己造手机,同样没有透露名字。在他看来,手机是 AI 未来最佳入口,掌握入口的诱惑足以让 AI 厂商亲自下场。

技术门槛集中在内存与带宽。1000 亿参数大模型的 FP16 权重需要约 200GB 内存,量化到 8 位、4 位后仍需 100GB、55GB;即便按现在 LPDDR5X 9600 的 68 至 77GB/s 带宽,支撑每秒 20 个 token 的生成速度也需要 TB/s 级别,现有手机平台相去甚远。

行业并非没有解法。一方面手机芯片在演进,已有公司在做独立的 AI 芯片方案,激进的甚至考虑引入 3D 内存;另一方面 MoE 架构叠加 2 至 4 位量化,也把千亿参数模型的端侧部署从完全不可能推向有条件可行。

真正苛刻的条件是“一直在运行”。大模型常驻后台意味着持续高负载,功耗水平接近全程游戏,当前手机电池难以支撑数小时。2028 年 AI 厂商能否兑现这一目标,取决于未来两年手机芯片、内存与算法能否完成一次质变。

注:本文配图由AI生成,文中包含AI辅助创作的内容。

编辑:林一舟

THE END