AI云基础设施公司CoreWeave工程师：让智能体造工具，还是当工具？

数据中心是一个物理系统。功率、进风温度、冷却液流量、风扇转速，全部持续采样。某个节点可能正在悄悄退化，最终打断一次训练任务。CoreWeave工程师Joël Henry在2026年10月15日发表的博客中记录了他们如何决定让智能体在哪里推理、在哪里被工程化替代，以及这条线如何随时间移动。

核心判断只有一个：智能体有两种根本不同的用法。第一种是离线构建。智能体拿到一个harness——不是简单的提示词，而是包含遥测分析工具、特征工程、模型训练和留出自检的完整工作环境。它探索数据、组装管线、迭代调优，直到指标不再提升。交付物是普通的机器学习代码和固定模型权重，经过人工审核后进入生产。智能体本身不在运行路径上，同一个信号跑两次永远得到同一个答案。

第二种是在线推理。当确定性检测器标记出一个异常后，问题变成开放式的：这是真故障吗？原因是什么？该怎么做？这些判断无法预先写成流程，因为有用的程序是你看到案例之后才写出来的。智能体在这里就是工具本身——它查询历史遥测、拉取节点信息、搜索既往事件和运维手册，返回判断、建议和推理过程。

为什么不能只用一种？因为两种任务的性质根本不同。异常检测每天处理五百万个信号，这个量级不可能让语言模型逐个判断——即使温度调低，同一个提示词在不同运行中也可能返回不同答案，而运维团队需要一个行为完全一致的检测器。反过来，解释一个异常需要综合判断，GPU、网络还是存储导致训练变慢，没有预先写好的流程能覆盖所有情况。

但真正值得注意的不是这个分工本身，而是边界会移动。推理侧的智能体在审查异常时，如果连续两次遇到同类情况，会识别出某类异常已经规律到可以用一条简单的确定性规则描述，然后主动提出这条规则。这条规则交给负责该硬件的工程师判断是否值得告警。Henry写道，这已经不是假设——推理侧确实已经提出了一条规则，现在正由工程师审核。一个被当作工具的智能体，最终构建了一个工具。

这个回写机制意味着系统的设计意图是随运行越来越便宜。工作从昂贵、灵活开始，被证明可重复的部分被固化、移到廉价可预测的一侧。Henry指出，大多数智能体部署随规模增长变得更贵，而这个架构是反过来设计的。

不过这套做法依赖三个前提条件，多数项目至少缺一个：有多年积累的历史故障数据（CoreWeave的Mission Control平台在检测器出现之前就已经在收集和处理这个规模的遥测）、有真正见过故障的运维工程师（知道哪些模式值得告警、哪些只是看起来像信号的噪声，这种判断力需要多年积累）、以及把前两者连起来的工程能力。

Henry也明确划出了智能体不做什么：它不执行操作。智能体可能自信地给出错误的根因判断，而在活跃集群上这个错误的代价远大于自动化带来的便利。每条建议都连同证据交给人类，决定权始终在人。任何能影响物理基础设施的系统都需要明确的安全规则，规定它可以做什么、何时可以行动、何时必须有人批准。

这套模式并不局限于数据中心。电池测试台、机械臂、赛车——任何带有持续传感器数据的物理系统都面对同样的结构：连续数据、稀有但重要的事件、以及同样的三个稀缺条件。CoreWeave正在通过其Physical AI Field Engineers把这套方法提供给客户工程团队——他们界定问题、搭建基础设施，把分散的测试和传感器数据变成能改变物理结果的模型。

需要留意的是，这是一篇带有商业推广目的的工程博客。CoreWeave同时在售卖Physical AI Field Engineering服务。

但架构判断本身——确定性任务交给智能体离线构建的管线，开放式判断交给在线推理，推理侧发现的规律回写为确定性规则——是一个可迁移的工程原则，不依赖于特定公司的数据规模或商业利益。