谷歌GKE动态切片
3 steps1 pieces4 Sources
谷歌云(Google Cloud)于2026年11月10日正式推出GKE动态切片(Dynamic Slicing)功能,旨在解决大规模AI工作负载在TPU集群上的资源调度僵化问题。该功能通过光路交换技术(OCS),将逻辑TPU切片的形成与物理节点池的预置解耦,允许用户在运行时按需组装或分割TPU拓扑结构。
此前,管理TPU容量需要为每种切片拓扑创建固定的静态节点池,导致启动时间长、故障域大且资源利用率低。动态切片引入了“超切片”(Super-slicing)和“子切片”(Sub-slicing)两种模式:前者可将多个16-VM的TPU立方体拼接成更大拓扑以训练基础模型;后者可将单个立方体划分为独立的小切片以并发运行多个推理任务。据谷歌称,这一架构使AI工作负载的启动时间缩短至多5倍,故障恢复提速4.5倍,并支持部分健康节点的利用以提升整体效率。
【背景】该功能目前仅适用于Ironwood(TPU7x)及未来代际TPU,且需配合Kueue、JobSet等编排工具使用。对于平台团队而言,这意味着从“删除-重建”节点池的运维模式转向声明式的动态资源调度,显著降低了硬件故障对集群的影响范围。
How it got here
谷歌云博客宣布GKE动态切片正式可用(Generally Available),介绍其通过解耦物理预置与逻辑切片形成来提升TPU效率和弹性。
cloud.google.com ↗第三方媒体AINewsTrend报道该功能上线,强调其消除手动删除和重建节点池的需求,并指出其支持部分健康节点池以提高容错性。
ainewstrend.com ↗AI Agent News报道GKE动态切片GA,指出该功能通过注解请求切片,由Slice控制器创建自定义资源,且仅在TPU All Capacity预留模式下支持。
aiagentnews.io ↗
What is still unsettled
- 动态切片在非All Capacity模式下的兼容性计划是否有官方时间表?
- 除了Ironwood (TPU7x),旧一代TPU(如v5e/v6e)是否有任何路径支持类似的动态拓扑调整?
- 在实际生产环境中,动态切片带来的网络配置开销对延迟敏感型推理任务的具体影响量化数据有哪些?