阅读研究雷达投资体系AI公司权威资料
登录 / 注册
← 返回阅读
资讯实质变化2 分钟阅读DisconfirmAI 编辑部

Tomasz Tunguz:GPU涨价如何通过token结构抬升harness价值——AI四层耦合的传导与边界

Theory Ventures合伙人Tomasz Tunguz提出AI四层耦合框架,其中GPU成本通胀通过input token占比(最高98%)传导至harness层的token优化价值。本文聚焦这一具体传导机制:Ornn B300指数从5.53涨至12.29美元/小时时,减少无效上下文注入的harness经济价值被放大。同时检验证据边界——关键数字来自不同实验与建模,厂商自报数据与当前路由行为不等于已证实趋势,框架描述耦合结构但不提供预测。

2026-11-02 08:00

Tomasz Tunguz是Theory Ventures合伙人、前Google产品经理。他在2026年11月发表的文章中提出AI产业由四层构成:应用、harness与上下文、模型、数据中心。每层面临一个未解决的经济问题,四层之间形成耦合系统。本文聚焦其中一条具体传导链:GPU成本通胀如何抬升harness层的经济价值,以及这条逻辑的证据边界在哪里。

Tunguz的传导机制依赖一个结构性事实:在agent工作负载中,input context占全部token的比例高达98%(他引用OpenRouter的token组成数据,范围在85.7%到98.2%之间)。这意味着模型推理的绝大部分token消耗不是'回答',而是'喂给模型的上下文'。当GPU价格上升——Ornn B300指数从6月中旬约5.53美元/小时涨至10月底的12.29美元/小时,复合月增长率约20%——每一token的计算成本随之增加。此时,一个能减少无效上下文注入的harness,其经济价值被放大:省下的不是输出token,而是占总量98%的输入token。

支撑这一逻辑的关键数字有两个。第一,UC Berkeley的HarnessTax研究在42组SWE-bench任务对比中发现,优化harness可以在不产生统计显著质量差异的前提下,将同一任务的解决成本降低71%。第二,Tunguz自己的合同建模显示,在一份25万美元的AI助理合同上,harness优化可将毛利率从38%提升至75%。这两个数字分别来自独立学术实验和商业合同推算,证据家族不同,口径也不同:前者是任务成本,后者是合同毛利。

然而,这条传导链的证据边界需要明确标注。首先,Anthropic S-1中披露的Opus 5.5将客户每任务成本降低40%、Opus 4.5发布后季度收入增速从48%加速到132%,是厂商自报数据,不是独立验证。其次,Tunguz观察到约83%的agent任务已路由到更小或领域专用模型,但这是当前行为描述,他并未证明这是不可逆趋势——同一篇文章也记录了二级市场GPU报价在一个月内从7.90美元/小时跌至4.60美元/小时,说明底层成本本身波动剧烈。第三,98%的input token占比来自OpenRouter公共网关的token组成统计,其适用范围不一定覆盖所有部署场景。

Tunguz用'双摆'来比喻四层耦合:每个部件遵循简单确定性规律,但整个系统表现出混沌运动,微小变化产生不可预测的大摆动。这个比喻本身承认了框架的局限——它描述了一种耦合结构,但不提供预测。读者可以将它作为定位成本压力落点的分析地图:当GPU涨价时,关注harness层的token优化能力;当模型效率提升时,关注应用层的定价空间。但框架不告诉你这些变化何时发生、幅度多大、或者哪一层会先崩溃。

来源

  • tomtunguz.comTomasz Tunguz↗
带入研究 →
登录 / 注册
阅读研究雷达投资体系AI公司权威资料