Amazon CEO Andy Jassy在2026年10月23日的a16z播客中描述了一个他反复观察到的需求结构:AI需求呈哑铃形分布。哑铃的一端是AI实验室和少数爆款应用(他提到ChatGPT、Claude Code等),它们消耗的算力规模前所未有;另一端是大量企业,它们用AI做成本规避和生产力提升——自动化客服、欺诈检测、业务流程优化。哑铃的中间段,也就是企业现有生产负载接入推理,在他看来是未来最大的绝对市场,但绝大多数尚未真正开始。
这个观察本身不算新——许多云厂商都说过类似的话。Jassy的贡献在于他把一个具体成本机制和这个结构绑在一起:为什么中间段打不开?他认为推理成本仍然比广泛采用所需的水平贵一个数量级。他的推理是:如果企业需要把现有CPU应用改写为使用AI加速器的版本,而两种方案的成本差距很大,那么改写必须带来非常高的增量收益才能值得投入;但如果推理成本降下来,这个门槛就大幅降低,几乎所有应用都会因为AI加速器和推理而变得更好、更智能、更有能力。
他接着把Amazon的芯片策略嵌入这个逻辑。Annapurna Labs最初不是为了AI芯片而收购——2015年收购时,核心动机是把虚拟化、网络、安全和存储的开销从CPU卸载到专用网卡,让服务器尽可能多的算力留给客户。之后团队被用来做Graviton CPU(他称比x86处理器价格性能高约40%,99%的Top 1000 EC2客户使用),再之后是Trainium AI加速器(他称比可比处理器价格性能高30%至40%)。他的判断是:自研芯片是降低推理成本、从而打开中间段的主要杠杆。
需要保留的边界:这些数字都是Jassy本人的估计和Amazon的自报数据,没有独立验证。'一个数量级'是他的个人判断,不是测量结果。中间段企业不采用AI的原因可能不止成本——Jassy还提到人才对后训练和微调的熟悉度、组织排优先级的能力也是影响因素。Jassy自己也承认'很难预测这件事发生的速率'。此外,a16z作为风险投资机构在Amazon和讨论中的公司有利益关系,这不影响Jassy观察的合理性,但读者应知道这不是中立的第三方分析。
尽管如此,这个框架对读者的价值在于它把一个模糊的'AI采用很慢'的判断拆成了可追踪的结构:哑铃两端已经在增长(实验室算力消耗、企业成本优化),中间段是未来最大的增量,而推理成本是连接这两者的可观测变量。当Trainium或同类自研芯片的定价和性能数据公开时,读者可以检验这个机制是否正在兑现。
信息源:youtube.com