阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯1 分钟阅读·2026-10-20DisconfirmAI 编辑部

AWS推出TorchNeuron测试版,简化PyTorch模型向Trainium芯片迁移

AWS发布TorchNeuron公开测试版,允许开发者通过标准PyTorch接口调用Trainium芯片,显著降低从英伟达GPU迁移至AWS自研AI算力的代码修改成本。

重要性实质性证据E3 可检验写法快讯

原文发布时间 2026-10-20 17:09

亚马逊云服务(AWS)于2026年10月20日发布了名为TorchNeuron的PyTorch扩展套件公开测试版。该工具旨在解决开发者将AI模型从英伟达GPU迁移至AWS自研AI加速芯片Trainium时面临的兼容性难题。

过去,虽然AWS已提供让PyTorch模型运行在Trainium上的方法,但开发者必须配合特定的编译及执行方式调整程序,导致原本在其他芯片上运行的工作流程难以直接转换。TorchNeuron改用了PyTorch既有的硬件支持机制,使框架能直接识别Trainium芯片。开发者只需在程序中指定由该芯片负责运算,即可维持原有的训练与推理流程,无需改用一套不同的模型执行方式。

目前TorchNeuron支持Trainium2和Trainium3两代芯片。它保留了PyTorch原有的测试、调试以及分布式训练工具,允许将大型模型的训练任务分配到多颗Trainium芯片处理。此外,该套件支持逐项执行与编译执行两种模式:逐项模式便于检查中间结果但可能增加耗时;编译模式则利用torch.compile功能优化后续执行效率。

需要注意的是,由于仍处于公开测试阶段,TorchNeuron尚未支持所有PyTorch功能。AWS指出,在逐项执行模式下,未支持的运算可能会自动改由中央处理器(CPU)执行,而在编译模式下可能导致编译失败。若程序原本使用Trainium旧版专用界面,仍需进行调整,并非所有代码都能直接无缝转移。

来源

  • 报道出处ithome.com.tw↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系