谷歌TPU首次对外供货并在Meta生产环境运行

IT时代网10月23日消息，谷歌自研的张量处理单元开始在 Meta 的数据中心承担生产环境的人工智能负载，这也是该芯片首次向外部客户供货并投入实际业务运行。

推动这次落地的是推理引擎的适配。SGLang 推出面向 TPU 的 PyTorch 原生版本，另一款被广泛使用的推理引擎 vLLM 也以开源形式发布了对应版本。

在此之前，这两款引擎在 TPU 上运行时依赖谷歌自有的 JAX 框架，开发者需要按框架差异改写代码。新版本让 TPU 成为 PyTorch 的原生硬件选项，多数模型无需重写即可迁移。

PyTorch 由 Meta 于 2016 年推出，目前是人工智能应用开发的主流工具。此前谷歌已开源 PyTorch 版本 TorchTPU，本次两款推理引擎完成原生适配，进一步补齐了软件栈。谷歌开源TorchTPU挑战英伟达

编辑：林一舟