Cloudflare自动路由公测,省钱数字出自自家测试
网关层自动选模型降低AI支出值得关注,但成本与成功率均为Cloudflare内部基准结果。
Cloudflare于9月30日将AI Gateway的Auto Router开放公测,用户把模型设为cloudflare/auto即可由系统按请求自动选型。
路由器在边缘GPU上运行一个分类模型,按复杂度、模糊度、风险等维度为请求打分,再结合各模型价格挑出“够用且便宜”的选项,并计入长会话中切换模型导致的缓存重写成本。
Cloudflare自报的内部基准显示:在291项模拟办公任务上,Auto Router成功率86.6%、总成本2.10美元;Claude Opus 5.5成功率96.6%、成本5.91美元;GPT-6 Sol成功率84.2%、成本2.64美元。即成本约为Opus的35%、Sol的80%。
这些数字全部出自Cloudflare自己的内部基准与OpenCode部署,任务覆盖邮件、日历、文件等办公场景,能否迁移到其他企业的工作负载尚待外部使用验证。