亚马逊发布TorchNeuron 助AI应用迁移至自研芯片
IT时代网10月20日消息,亚马逊云科技(AWS)发布了一款名为 TorchNeuron 的工具,让人工智能初创公司能够把自家应用便捷地迁移到亚马逊自研的 AI 芯片 Trainium 上运行。这也是亚马逊首次针对英伟达在软件生态上的优势发起正面挑战。
该工具基于 PyTorch 开源生态构建,开发者只需改动一行配置,就能让原本运行在英伟达 GPU 上的 PyTorch 应用转移到 Trainium 上,无需重写代码。亚马逊称,目前约 85% 的 AI 应用都是基于 PyTorch 构建的。
英伟达多年来持续确保其 CUDA 软件栈能够无缝支持 PyTorch,使得自家硬件成为 AI 应用事实上的默认选择。TorchNeuron 由 PyTorch 衍生而来,熟悉 PyTorch 的开发者几乎无需额外学习即可上手。需要说明的是,亚马逊并非第一家尝试打通自家芯片与 PyTorch 生态的公司,开发者同样可以通过简单配置将应用迁移到 AMD 的 GPU 或苹果芯片。
亚马逊强调,迁移到 Trainium 的意义不止于简单,更能让初创公司顺势接入自家的整套云服务。AWS 方面表示,相比那些绑定单一算力供应商、需要围绕其从头搭建一切的新兴云服务商,依托 AWS 对初创公司更具优势。
负责亚马逊自研芯片的 Annapurna Labs 部门技术软件副总裁 Colin Brace 称,在 AWS 上,从原型到生产所需的基础设施已经就绪,创始人可以快速推进业务并在需要时从容扩展。他还表示,由于同一颗芯片同时承担训练与推理任务,并与初创公司所需的云基础设施深度整合,亚马逊的云即便单 token 价格并非最低,也能帮助客户节省整体开支。

注:本文配图由AI生成,文中包含AI辅助创作的内容。
编辑:林一舟