亚马逊云科技：为什么标价更贵的模型反而让智能体任务便宜65%

智能体工作流中，模型选择的经济直觉经常是错的。一个标价每百万token 0.5美元的模型，和一个标价1美元的模型，看起来前者便宜一半。但如果前者的分词器把同一段750词的邮件切成1500个token而非1000个，输出时填充450个token的废话而非150个，并且因为误读工具架构需要额外两轮纠错（每轮都重发越来越长的上下文），最终这个任务花了0.0042美元——而那个标价贵一倍的模型一次就完成，只花了0.00145美元。这是亚马逊云科技在2026年11月发布的方法论文章给出的示例，它不是实测结果，而是用来说明一个结构性问题：公开定价反映的是单个token的价格，你的账单反映的是完成一个任务的价格。

文章将这种差异归结为四个隐藏成本驱动因素。第一是分词器效率：不同模型家族使用不同的词表和分词规则，同一段文本、代码或JSON负载在不同模型中拆成不同数量的token。结构化数据和数字数组尤其容易在便宜模型上膨胀，非拉丁文字脚本的差距更大，可能达到英文的两到三倍。第二是输出对齐和冗长度：输出token的单价通常是输入token的三到五倍，一个不遵守只返回原始JSON格式约束的模型，让你为填充词支付这个溢价。第三是智能体循环效率：工具调用要求多轮对话——分析提示、决定调用工具、等待观察结果、生成答案——每一轮都把完整对话历史和工具结果作为输入重新发送。一个需要四轮纠错的模型，其累计输入量远超一次完成的模型。第四是推理开销：支持扩展思维的模型在可见答案之前先生成思维链，这些推理token按输出token计费。一个思考2000个token再给出200个token答案的模型，实际计费2200个输出token。

文章给出了两个公式来处理失败成本。对于重试直到成功的工作流，每个成功任务的成本等于每次尝试的成本除以成功率。对于失败即升级的工作流，每个成功任务的成本等于每次尝试的成本加上（1减成功率）乘以升级成本。当提示缓存启用时，输入还进一步分为三个计价桶：未缓存输入按基础费率、缓存读取低于基础费率、缓存写入高于基础费率。这意味着模型响应中的inputTokens字段在缓存启用时只计未缓存部分，真实输入量需要把inputTokens、cacheReadInputTokens和cacheWriteInputTokens三者相加。

在证明智能体优于人工方面，文章强调一个常被跳过的步骤：在智能体上线之前测量人工基线。回溯性基线系统性地偏袒智能体，因为人们记住平均情况而忘记快速情况。基线指标包括完成时间、排队时间、主动工作量、重新打开率、升级率、每任务成本和结果质量。有了基线之后，每一次智能体运行都应作为实验记录，包含trace ID、实验变体、延迟、重试次数、工具调用数、人工审批数、人工花费分钟数和成本估算。文章特别指出humanMinutes是多数团队遗漏但最需要的字段——没有它，智能体完成了工作这句话悄悄排除了人类花35分钟审查它的时间。

最终决策依赖一个五维记分卡：采用率、质量、效率、成本和业务影响，每个维度有绿黄红阈值。绿色意味着扩大部署，黄色意味着调优，红色意味着退役或重新设计。文章认为，真正愿意退役一个红色智能体的意愿，是让整个记分卡可信的前提。

这套方法的适用边界需要明确。文中所有数字仅为示例——作者反复要求读者用Amazon Bedrock model evaluation对自己的数据做基准测试，用CountTokens API在生成之前比较分词器效率，从模型调用日志中累积真实token计数。四个隐藏驱动因素的权重因具体工作负载差异极大：一个纯单轮提取任务可能只受分词器和输出长度影响，而一个复杂规划智能体可能主要受循环次数决定。记分卡阈值被明确标注为 starting points, not prescriptions，需要按自己的车队数据和组织语境校准。