OpenRouter洞察负责人Peter Walker:AI推理已是大宗商品,企业该按 landed cost 采购
OpenRouter平台数据显示token用量两年增长约300倍而单价下降八成,用量与支出已经脱钩。其洞察负责人Peter Walker认为AI推理具有大宗商品全部特征——单位成本下降、用量上升、最优供应商频繁更替——企业不应再按软件订阅方式采购,而应按缓存折扣、等待成本和重试成本综合计算的 landed cost 做逐请求决策。
2025年1月,OpenRouter每周处理约5000亿token;到2026年9月底,这个数字变成164万亿。同期每百万token的平均支付价格从0.77美元降至0.14美元。OpenRouter洞察负责人Peter Walker在OnlyCFO撰文指出,用量暴涨与单价暴跌同时出现,是典型的大宗商品市场特征,而非软件市场特征。大多数企业仍然按采购软件的方式采购AI:选定供应商、谈判年度承诺、在固定节点重新评估。Walker认为这套逻辑已经过时。
脱钩的机制有三层。第一,开源权重模型已承载OpenRouter上约60%的周token量,但只占26%的支出——分类、提取、编码子任务、agent步骤等日常工作的主体已经迁移到成本仅为前沿模型几分的模型上。第二,2026年2月6日,软件agent超越人类用户成为token的主要来源;到9月底,agent工作负载约131万亿token每周,人类用户约18万亿。agent在每一步重发相同的长上下文,使prompt caching成为AI最重要的定价特征——缓存token按正常价格的极小比例计费。本季度新发布模型的agent流量缓存率已达88%,而2025年春季发布的模型只有55%。第三,前沿实验室OpenAI和Anthropic近几个月都发布了能力很强但价格低得多的模型,进一步拉低均价。
对采购的实际含义是:OpenRouter上约77%的请求流向被多个provider服务的模型,因此大多数流量涉及逐请求的供应商决策。OpenRouter升级后的路由算法不再只看输入token单价,而是按Walker所说的 landed cost 定价:缓存折扣后的有效价格加上等待成本加上重试成本。一个成本1美元、成功率80%的请求,实际每次成功回答的成本是1.25美元。对三个热门开源权重模型,客户实际支付价格比目录价低43%到89%,而且目录价最低的provider往往不是实际最便宜的。Walker的结论是:这个市场按分钟变动,不按季度。
Walker给财务负责人的建议是:把AI当作企业模型中一个波动性投入来管理。用量增加不等于支出增加——OpenRouter上已有数百家公司在token用量大幅上升的同时成功降低了支出。开源模型不是铁板一块——同一个模型由不同provider服务时速度、质量和可靠性差异很大。最被看好的模型可能尚未发布——OpenRouter上按token量排第一的实验室在八个季度内换了五次,头部份额从约40%降到21%。只有具备实验文化且财务视角匹配的公司,才能在应用智能的前沿保持位置。
需要强调的是,以上所有数据均来自OpenRouter单一平台的流量观测,反映的是经由该网关的请求,不能直接等同于企业通过云服务商直连API或本地部署的AI支出结构。Walker本人也注明文章不构成法律、税务或投资建议。