阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化2 分钟阅读DisconfirmAI 编辑部

Fireworks AI联合创始人Chenyu Zhao提出两模型世界:企业月Token花费过万美元就该考虑切换开源模型

Fireworks AI联合创始人Chenyu Zhao在Slush大会阐述企业AI模型选型的具体判断框架:当月Token支出超过1万至10万美元时,就该考虑转向开源模型;未来格局是前沿模型负责高层规划、开源模型负责执行,中间靠路由按任务成本分配,而非按Token单价比较。

2026-11-20 08:26

Fireworks AI联合创始人Chenyu Zhao在赫尔辛基Slush大会上给出了一个具体的企业AI支出判断线:当用户规模超过1万到10万、月Token花费达到1万至10万美元时,就该认真考虑从前沿模型切换到开源模型。他的核心论点不是开源模型已经追平前沿模型,而是大多数企业工作负载根本不需要前沿模型的通用智能水平。

Zhao把未来格局概括为两模型世界:前沿模型用于高层规划和复杂推理,开源模型用于日常执行,两者并行。连接它们的关键机制是路由——把任务按成本而非按Token单价分配给最合适的模型。他说,行业现在关注的已经不是每Token多少钱,而是每个任务完成一次总共花多少钱。这个区分对企业的实际意义在于:一个开源模型即使单价便宜,如果完成任务需要更多Token,总成本未必更低;反过来,一个前沿模型单价高但一次就完成,可能反而更省。

Zhao给出的前提是开源模型与前沿模型的能力差距目前最多六个月,大概率只有三个月。他提到DeepSeek之后出现了一批优秀的开源模型,这个差距从几年前一两年半大幅缩小。不过这个判断来自他本人的评估,并非独立测量。值得注意的是,Anthropic在9月发布的Opus 5.5已将典型工作负载成本降低40%,输入输出Token价格降至每百万4美元和20美元,缓存读取降至0.20美元。前沿模型自身也在快速降价,这意味着Zhao给出的切换阈值可能随时间上移。

Zhao的框架有一个利益关系需要读者自行判断:Fireworks的业务正是帮助企业在自己的数据上微调开源模型并托管运行,它的客户包括Uber、Shopify和Notion。Fireworks今秋披露了两起安全事件,黑客通过其云提供商获取了客户数据,Notion因此断开连接,Uber约15万司机的个人信息被窃。Zhao承认这些事件,并表示正将批处理预测服务迁移到在线流程以缩短数据留存时间。这些事故不影响他的成本框架的逻辑,但影响企业是否愿意把数据交给Fireworks这类中间层平台。

综合来看,Zhao提出的两模型世界路由框架是一个有操作性的决策工具:先按任务成本而非Token单价评估,再根据支出规模决定是否引入开源模型。但它的前提——开源模型差距只有三到六个月——是Zhao的判断而非独立验证,且前沿模型持续降价可能改变切换的经济性。企业如果采用这个框架,需要自己测量任务级成本,而不是直接套用他的阈值。

来源

  • techcrunch.comTechCrunch↗
登录 / 注册
阅读研究雷达投资体系
anthropic.com
↗
带入研究 →