谷歌JAX框架
3 节点1 篇3 来源
谷歌开源机器学习框架 JAX 于 2026 年 10 月 19 日发布 v0.12.0 版本，重点增强了对 AMD Instinct MI355X 等新一代 GPU 的原生支持，并引入了连接 Pathways on Cloud 的代理后端。此次更新在性能优化上迈出关键一步：通过新增 MXFP4 量化格式，显著降低大模型在 AMD gfx950 架构上的显存占用；同时移除了旧的 jax.custom_remat 接口，强制开发者迁移至更灵活的 jax.custom_vjp.defremat。这一变化反映了 JAX 正在从单纯的数值计算库向支持异构硬件（NVIDIA、AMD、Intel）及云端分布式训练的基础设施演进。对于依赖 JAX 进行 LLM 训练或推理的团队而言，需立即评估代码兼容性，特别是涉及重算（rematerialization）和自定义梯度规则的部分。
事情怎么走到这一步
JAX v0.12.0 正式发布，引入 MXFP4 量化以优化 AMD GPU 显存，并增加 Proxy 后端连接 Pathways on Cloud。
github.com ↗移除 `jax.custom_remat` 接口，要求使用 `jax.custom_vjp.defremat` 替代；x86-64 平台最低 CPU 要求提升至 Intel Haswell。
github.com ↗【背景】AMD 发布博客介绍 MXFP4/MXFP6 量化技术，指出其在 MI355X GPU 上可实现比 FP16 高 4 倍的峰值吞吐量。
rocm.blogs.amd.com ↗
还没定论的部分
- 旧版 `jax.custom_remat` 用户迁移到 `defremat` 的具体性能损耗或收益数据尚未公开。
- Proxy 后端在非 Google Cloud 环境下的延迟表现如何？
- NVIDIA NGC 容器何时跟进支持 JAX v0.12.0 的新特性？