Latent Space AINews解析DeepSeek开源推理引擎DeepInfer：披露单集群日吞吐155万亿Token及每GPU小时38美元营收细节
本期AINews深入报道了中国AI公司DeepSeek开源其生产级推理框架DeepInfer的事件。节目不仅梳理了技术架构（如分离式预填充/解码、SWA有界重放），更重点分析了其披露的惊人经济数据：在低峰期定价下，单个GPU每小时产生38美元营收，以及社区对由此推导出的高利润率与回本周期的争议。对于关注AI基础设施成本结构与商业可行性的读者，这是一份极具价值的资源推荐。
Latent Space的AINews栏目于2026年10月21日发布了一期关于DeepSeek开源其内部推理框架DeepInfer的深度报道。这期节目并非简单的新闻复述，而是对这一“中国开源炸弹”事件进行了技术与经济双重维度的拆解。DeepSeek声称该框架支撑了其V4.1 Flash模型的生产服务，实现了单集群每日155万亿Token的吞吐量，并在低峰期定价策略下达到了每GPU每小时38美元的营收水平。
节目中详细引用了DeepSeek的工程报告和社区分析，指出这些数字背后是高度优化的缓存机制——96%的输入缓存命中率意味着大部分Token无需重新计算。然而，报道也诚实地指出了局限性：所谓的“完全开源”并不包括关键的KV缓存管理和负载均衡代码，因为这些组件与DeepSeek的内部基础设施紧密耦合。此外，vLLM团队随后发布的对比数据显示，在特定配置下其解码吞吐量与DeepInfer相差不到6%，这在一定程度上削弱了DeepSeek效率不可复制的说法。
对于从事AI基础设施投资或工程落地的读者，这期节目的核心价值在于它展示了如何从公开的技术披露中反推商业模型的可行性。节目汇总了多位分析师（如zephyr_z9, Teortaxes）对利润率的估算过程，强调了硬件成本、缓存存储开销以及未计入的运营费用对最终利润的影响。尽管没有提供确切的财务审计结果，但这种基于第一手技术数据的经济学推演，为理解大模型服务的真实成本结构提供了难得的视角。