AWS副总裁Robert Hundt：用AI智能体选出841个代表模型，验证Trainium PyTorch后端的架构覆盖

为一款AI加速芯片开发PyTorch后端，最棘手的问题往往不是让代码跑起来，而是确认它覆盖了开发者实际会用的模型空间。Hugging Face上有数十万个开源模型，逐个测试不现实；只测几个基准又无法保证没有遗漏。AWS副总裁Robert Hundt在10月22日的技术博客中描述了TorchNeuron的评估方法：用AI智能体做系统性分类，再用张量形状注册表做分级回归测试。

具体流程分三步。第一步，团队构建AI智能体扫描Hugging Face仓库，排除配置损坏无法在任何加速器上运行的模型，筛选出数十万个有可执行代码的模型。第二步，另一个智能体按架构特征对这些模型分类——以大型语言模型为例，前端编码器处理何种数据类型、主干的注意力机制是自注意力还是交叉注意力、后端输出何种形式——最终选出841个代表性模型，团队声称这841个覆盖了TorchNeuron可能遇到的全部设计特征。第三步，从这841个模型的实际运行中记录所有张量操作的维度组合，形成包含数万个条目的shape registry，用于生成快速单元测试。

分级测试由此展开：每次代码修订先跑形状注册表生成的单元测试，通过后再在841个代表模型上验证，最后才在完整模型分布上测试。Hundt称这种分层让问题在开发周期更早暴露，显著提升了开发速度。

需要指出的是，以上所有数据均为AWS自报。841个模型的选取标准和架构分类维度由团队自行定义，外部无法独立验证其覆盖完整性。不过，将智能体驱动的分类和形状提取作为硬件后端验证的中间层，这一思路本身对芯片和软件栈开发者有参考价值：它把"逐个模型验证能否跑通"转化为"按架构分类后系统性覆盖"，使开发者不必逐一尝试即可判断后端是否适配自己的模型。

Hundt在文末称，这套分层评估让团队有信心TorchNeuron能在Trainium上准确高效地执行PyTorch模型，为客户提供更多选择。