资讯1 分钟阅读·
AWS发布单位正确答案成本评测,低token单价未必降低任务总成本
模型选型的成本参考从token单价转向单位正确答案成本,但该指标随基准与价格变动,需按自身任务重算。
AWS 发布开源评测方法,把正确率、token 用量与价格合并为“每个正确答案的成本”。文章由 AWS 撰写,基准与价格也是文中自选,换一组就会改变排序。示例中,Sol 的 AIME 正确率为 75%,mini 为 37%;按文中价格,Luna 每个正确答案约 0.0021 美元,mini 约 0.0139 美元。失败并不免费,错误答案会带来重试和人工复核,因此低 token 单价不一定降低任务总成本。企业仍需用自己的任务、复核时间和错误损失重跑。
资料核对:AWS:按正确答案比较模型成本 ↗