Anyscale与谷歌云宣布Ray原生支持PyTorch在TPU上运行
开发者现可通过Ray框架直接在谷歌TPU上运行PyTorch任务，无需重写代码即可实现高效分布式训练与推理。
重要性实质性证据E3 可检验写法标准
2026年10月20日，计算平台公司Anyscale与谷歌云（Google Cloud）联合宣布，开源分布式计算框架Ray现已原生支持在谷歌张量处理单元（TPU）上运行PyTorch工作负载。这一集成基于谷歌去年推出的TorchTPU项目以及KubeRay on Google Kubernetes Engine (GKE)，旨在为平台工程和机器学习团队提供统一的控制平面，使其能够跨GPU和TPU调度和管理分布式训练、vLLM推理及强化学习任务。
长期以来，在Ray上使用TPU需要适应主要为JAX设计的单程序多数据（SPMD）执行模型，即每个主机虚拟机仅由一个Ray工作进程管理所有连接的TPU芯片。此次更新引入了“单设备每工作进程”的原生PyTorch体验：每个Ray工作进程请求一个逻辑TPU设备，类似于在GPU上设置num_gpus=1。Ray会自动通过TPU_VISIBLE_CHIPS隔离并分配单个TPU设备给工作进程，开发者只需将代码中的设备字符串从“cuda”改为“tpu”，并将通信后端从“nccl”切换为“tpu_dist”，即可实现现有PyTorch代码的平滑迁移。
针对大规模训练场景，Ray Train的TorchTrainer现在支持自动配置TPU切片。通过指定use_tpu=True及目标拓扑（如“4x4”）和加速器类型（如“TPU-V6E”），系统会自动预留原子TPU切片，确保所有训练工作进程被共同调度到物理上连续的高速互连TPU切片上，防止资源碎片化。此外，结合vLLM-TorchTPU插件，开发者可以使用相同的声明式API在TPU切片上部署兼容OpenAI接口的在线推理服务。