Together AI发布“多态推理”框架，称其编译器已用于生产环境优化开源模型
Together AI提出“多态推理”概念，并宣布其AI代理驱动的编译器Together Compiler已在部分生产工作负载中运行，以应对模型和硬件的快速变化。
AI基础设施公司Together AI于2026年11月4日发布博客，正式提出“多态推理”（Polymorphic Inference）这一新范式，并宣布其名为Together Compiler的工具已在部分生产环境中部署。该工具利用AI代理自动优化推理性能，旨在解决开源模型架构、流量模式和硬件平台快速迭代带来的适配难题。
Together AI研究团队指出，传统的“静态推理”模式依赖于针对特定配置手动调优的内核，难以适应当前开源模型发布速度加快、架构多样性增加以及硬件频繁更新的环境。据该公司称，OpenRouter上80%的流量流向最近三个月发布的模型，且前十大热门开源模型均使用不同架构。多态推理的核心在于让系统能够动态适应这些变化，而非为每种情况编写新的静态内核。
作为实现这一目标的第一步，Together AI推出了Together Compiler。这是一个由AI代理驱动的性能优化循环，被描述为一种“递归自我改进”（RSI）系统。该公司声称，目前通过其端点运行的许多模型已由AI代理完全优化，并称这是全球首个生产规模的RSI推理系统。Together Compiler将传统的编译器翻译问题重构为代理搜索问题，通过一组代理与高保真持久引擎配合，自动识别关键优化模式并持续调整代码以适应新的流量形状和工作负载。
值得注意的是，上述关于“世界首个”及生产环境部署状态的声明均为厂商自报，未提供独立的基准测试数据或具体的性能提升百分比。Together Compiler目前仅向有限beta用户提供早期访问权限。对于关注AI基础设施效率的读者而言，这一动向表明头部服务商正试图通过自动化手段降低对人工内核优化的依赖，但其实际效果仍需后续独立验证。