资讯1 分钟阅读·
亚马逊推出TorchNeuron,让PyTorch代码在Trainium芯片运行
亚马逊发布TorchNeuron,允许PyTorch代码在Trainium芯片上无缝运行,挑战英伟达软件生态壁垒。
重要性实质性证据E2 未复现写法快讯
美国科技公司亚马逊于当地时间10月19日宣布推出名为TorchNeuron的开源工具。该工具旨在解决人工智能开发中的一个核心痛点:让开发人员编写的PyTorch代码能够在亚马逊自研的Trainium芯片上本地运行,而无需重写代码,只需更改一次配置参数。
PyTorch是由Meta主导的开源深度学习框架,被大多数AI开发者采用。长期以来,英伟达通过投入十多年时间研发CUDA工具链,建立了强大的软件护城河,使得PyTorch代码在其GPU上能高效运行,但在其他厂商芯片上往往需要复杂的适配工作。
据亚马逊介绍,其工程师在传统芯片和Trainium芯片上运行了相同的AI训练脚本。唯一的区别仅在于指定所用芯片的设置参数。亚马逊称,结果显示AI模型在两种环境下学习到的内容完全一致,学习速度也相同。这意味着开发者原本用于测试、调试和扩展AI模型的工具,无需任何修改即可直接在Trainium上使用。
亚马逊表示,TorchNeuron为行业带来了“真正可行的选择权”。当开发者能够以低成本在不同芯片间切换时,芯片厂商必须通过更具竞争力的产品来赢得市场,而非依赖软件锁定。此外,亚马逊正积极参与PyTorch上游开发,致力于移除将框架与特定芯片绑定的代码,推动PyTorch社区的“硬件无关性”。
需要注意的是,上述关于性能一致性的结论基于亚马逊内部的对比测试,尚未经过独立第三方验证。TorchNeuron将于10月20日在加州圣何塞举行的北美PyTorch大会上正式发布。