阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯专题 · AI推理成本优化实质变化3 分钟阅读DisconfirmAI 编辑部

AI推理越便宜,行业花得越多:效率红利与资本回报的错位

TheSequence社论将本周多项AI动态——DeepSeek开源推理框架、NVIDIA模块化AI工厂设计、Meta负自由现金流、SpaceX AI分部营收超越Starlink、法律AI公司Legora的88亿美元估值——连接为一条经济论证线:推理成本下降扩大了总需求,从而推高基础设施支出,但增长归谁、利润率归属谁仍是未解问题。

2026-10-25 19:03

AI正在变得更高效,这似乎意味着所有人需要花更多的钱。这是TheSequence本周社论开出的核心悖论。作者将几件看似无关的事放在一起:中国AI实验室DeepSeek开源了其生产推理框架DeepInfer,NVIDIA在柏林GTC上发布了模块化AI工厂设计DSX POD,Meta报告季度营收增长26%至646亿美元但自由现金流为负21亿美元,SpaceX的AI业务季度营收75.6亿美元超过了Starlink的52.5亿美元,法律AI公司Legora以88亿美元估值完成5.5亿美元融资。

这些事件背后的经济逻辑是同一条:推理成本下降,开发者就能负担更多请求,更多请求意味着更多总需求,更多总需求意味着更多基础设施。DeepSeek的DeepInfer框架本身不创造新需求,它提供的是推理内核——缓存和负载均衡仍需运营商自行搭建——但其经济意图很直接:从昂贵硬件中榨取更多产出。作者用一句话概括了这种逻辑的终点:

效率能卖GPU。智能令人印象深刻。智能加上更好的毛利率才值得打开电子表格。

NVIDIA的DSX POD声称可将部署时间从六个月压缩到十四天,但作者特别指出已准备好场地的限定条件很重要:许可证、电力和冷却并没有突然变成可下载的软件。销售话术从生产智能延伸到安装工厂和监督员工——基础设施供应商正在把整个价值链打包出售。

Meta的案例展示了另一种张力。管理层将广告收入增长归因于AI改善的参与度和推荐系统,这证明AI确实能提升一个已经赚钱的业务。但季度资本支出达到349亿美元,自由现金流为负。作者写道:现有业务帮助为野心融资,而野心正在非常擅长吸收融资。

SpaceX则提供了一个更奇怪的企业身份。其AI部门(现称SpaceXSI)季度营收75.6亿美元,超过Starlink的52.5亿美元,运营利润4.31亿美元,但资本支出高达164.4亿美元。作者评论说:你可以经营一家火箭公司,然后发现真正昂贵的扩张项目是帮人运行软件。

Legora代表了另一种定价逻辑。法律AI软件瞄准的不是token成本,而是完成工作的成本。作者写道:一个token可能越来越便宜,但律师的一个下午仍然是有价值的参考价格。投资论点是拥有工作流就能保留部分差价。至于客户还是软件供应商保留这些节省,将是一场有趣的谈判——大概需要律师参与。

把这些公告连接起来的赌注是:更便宜的推理会扩大需求,足以证明更多新基础设施的合理性,而专业化应用捕获部分价值。作者认为这合理,但紧接着给出了关键限定:它还要求区分营收增长与产生这些增长所需资本的可观回报。每个人都能有一个增长故事,他们仍然需要就利润率归属谁达成一致。

这篇社论没有给出预测或投资建议。它指出的是一个结构性问题:当效率提升被解读为支出扩张的理由时,读者需要追问的是,节省下来的成本最终进入了谁的口袋——是基础设施供应商、应用开发商、还是终端用户。这个问题在Meta的负自由现金流和SpaceX的164亿资本支出面前变得具体,而Legora的88亿估值和2亿ARR之间的差距则暗示答案可能取决于谁拥有工作流。

来源

登录 / 注册
阅读研究雷达投资体系
thesequence.substack.com
↗
专题

AI推理成本优化

2026年,AI行业重心已从模型训练转向推理成本控制。随着智能体工作流的普及,上下文重发与循环迭代导致Token消耗呈指数级增长,使得推理成本成为基础设施支出的主要驱动因素。OpenAI、Cerebras等厂商通过缓存、分层编排及专用硬件加…

6 节点5 篇更新于 2026-10-26 08:43

事情怎么走到这一步

  1. 2026-01-19腾讯云开发者社区文章指出大模型进入“推理成本时代”,推理成本占AI总支出80%以上,vLLM的PagedAttention成为显存管理关键。cloud.tencent.com ↗
  2. 2026-03-01arXiv论文《Token-Budget-Aware Pool Routing》提出基于Token预算的路由策略,在Azure数据集上实现GPU实例减少17-39%,年节省可达数百万美元。arxiv.org ↗
  3. 2026-07-22CoreWeave博客分析智能体工作流成本机制,指出输入Token重发是长尾成本主因,模型分层编排是最强架构级杠杆。wf.coreweave.com ↗

还没定论的部分

  • 廉价推理带来的效率红利最终被云厂商、模型提供商还是应用开发商捕获?
  • 智能体工作流的Token膨胀问题是否会导致新的基础设施泡沫?
  • 开源推理框架(如DeepInfer)与专有云服务在成本优化上的长期竞争力对比如何?

这条线上还有

  • Databricks联合创始人Patrick Wendell:AI编程成本是结构性基础设施问题,路由层将成为新竞争战场2026-10-23
  • AI云公司CoreWeave博客:智能体生产成本的真正驱动是循环重发上下文,架构选择比模型选择影响更大2026-10-23
读完整专题 →
带入研究 →