Google与Meta开源TorchTPU：让PyTorch原生运行于TPU以挑战Nvidia垄断
Google和Meta旗下PyTorch团队周二公布开源AI开发软件堆叠TorchTPU，旨在降低PyTorch在Google TPU上运行的门槛，吸引开发者并挑战Nvidia的长期主导地位。
重要性实质性证据E3 可检验写法标准
Google和Meta旗下的PyTorch团队于周二公布了名为TorchTPU的开源AI开发软件堆叠。这一工具的核心目标是让PyTorch更容易在Google TPU上执行，从而吸引应用程序开发社群，借此挑战Nvidia在AI算力市场长达数年的垄断地位。
TorchTPU是Google在PyTorch 2026大会上公布的多项产品中最重要的一项。它使PyTorch能够原生运行在Google Cloud TPU上，允许开发人员利用他们熟悉的工具——如vLLM、SGLang、llm-d、TorchTitan、Ray、TorchRec、HuggingFace和LiteRT——来训练、部署和提供模型。
根据TorchTPU网页说明，该工具由Google和PyTorch共同开发，支持现有的PyTorch工作负载只需进行最小的代码变更即可跑在Google自己的TPU上，并使用熟悉的API。TorchTPU提供了TPU PyTorch Aten核心实现、XLA运算执行的编译缓存，支持分布式训练（包括数据平行和Tensor平行架构），并提供多种模型的范例（如Llama、Qwen、ResNet、DLRM、minGPT和UNet）以及除错和基准测试工具。
Google指出，开发者可以先以即时执行模式进行开发与除错，再通过torch.compile优化TPU利用率、减少内存耗用，以提高正式环境的执行效能。此外，Google也与Hugging Face合作，让后者平台上的开源模型能原生执行在TorchTPU上。在机器学习函数库Transformers v5中，现在部署模型到Google Cloud TPU上只要设定device_map="tpu"即可。
透过TorchTPU让PyTorch原生支援Cloud TPU，Google希望能打破Nvidia庞大的CUDA软件生态系统。值得注意的是，Amazon Web Services (AWS)也基于同样的策略，于日前公布了TorchNeuron，以降低AI模型转用Trainium晶片的门槛。这表明云服务商正集体通过软件兼容性来削弱Nvidia的护城河。