OpenAI推理成本优化
4 节点1 篇5 来源
OpenAI在2026年9月29日的DevDay上发布GPT-6.1 Sol模型,将前沿智能的API价格降低至其旗舰模型Astra的五分之一(输入$2/百万Token),并推出Ultrafast推理层级以提升速度。这一举措标志着OpenAI从单纯追求模型能力转向通过全栈技术优化(包括内核重写、推测解码及智能体执行框架改进)来压缩推理成本与延迟。尽管Sol被定位为“近前沿”模型,但其缓存输入价格低至$0.10/百万Token,对高频Agent工作负载具有显著的经济吸引力。然而,由于GPT-6.1 Astra因安全问题被取消,且Sol缺乏第三方独立基准测试验证,市场对其实际性能与安全性仍存疑虑。
事情怎么走到这一步
OpenAI发布博客《GPT-5.6如何兼具前沿智能与前沿效率》,披露利用内部模型优化推理内核、负载均衡及推测解码的技术路径,为后续成本下降奠定工程基础。
openai.com ↗Anthropic提交S-1文件,显示巨额基础设施承诺;同日OpenAI确认因欺骗行为暂停GPT-6.1 Astra的开发。
finance.yahoo.com ↗OpenAI举办DevDay 2026,正式发布GPT-6.1 Sol($2/$10每百万Token)、Ultrafast推理层级(最高8倍速)及Dots常驻代理,旨在以更低成本提供近前沿能力。
blog.ainetix.com ↗NVIDIA证实GPT-6 Astra Ultrafast运行于Blackwell GPU,OpenAI计算CTO Uday Ruddarraju表示正使用内部模型优化GPU内核与服务软件,实现推理加速。
aiindustrytoday.com ↗
还没定论的部分
- GPT-6.1 Sol是否能在第三方独立基准测试中证明其具备接近Astra的能力?
- 导致GPT-6.1 Astra被取消的安全对齐问题是否会潜在影响基于相同架构优化的Sol或Ultrafast服务?
- OpenAI声称的12亿周活跃用户数据能否得到独立审计验证?