谷歌开源TorchTPU挑战英伟达
IT时代网10月21日消息,谷歌宣布其酝酿已久的 PyTorch 版本 TorchTPU 正式以开源项目形式发布,让人工智能应用可以直接运行在谷歌自研的 TPU 芯片上。这意味着谷歌与亚马逊一道,试图打破英伟达在 AI 行业的主导地位。
PyTorch 是 AI 应用开发者与初创公司广泛用于构建、训练和运行模型的开源工具,按一些统计约有 85% 的 AI 应用基于它开发。该工具最初由 Meta 于 2016 年推出,2022 年交由 Linux 基金会管理。
借助 TorchTPU,开发者只需修改简单配置、无需重写代码,就能把现有的 PyTorch 应用迁移到 TPU 与谷歌云上。此前一天,亚马逊也发布了类似的 PyTorch 版本 TorchNeuron,可将应用移植到自研的 Trainium 芯片与 AWS,并向 PyTorch 主项目提交代码,把各项功能与英伟达芯片解耦。
谷歌还更进一步:它与 Meta、Hugging Face、vLLM 开发方 Inferact、SGLang 开发方 RadixArk 等协作,确保 TorchTPU 与这些主流开发工具良好兼容;并推出专门的 TPU agent suite 工具,帮助开发者迁移应用并排查错误,还更新了面向手机与嵌入式设备的 LiteRT 工具。
这并不意味着 AI 开发者会立刻抛弃英伟达硬件,但亚马逊与谷歌显然都在努力终结英伟达在 PyTorch 生态中的先天优势。

编辑:林一舟