OpenAI改进GPT-6提示缓存,代理应用成本可再降
OpenAI为GPT-6默认提高缓存命中率并新增诊断工具,长时代理的推理成本有望下降,但数字均为厂商口径。
原始事件 2026-09-22
OpenAI在9月22日的产品说明中称,GPT-6系列默认提供更高的提示缓存命中率,30分钟窗口内复用的共享前缀可享缓存折扣,缓存输入token折扣最高90%。
新工具包括缓存监控面板、未命中诊断工具和显式缓存断点,开发者可在不破坏缓存的情况下调整推理力度,或预热缓存以降低首字延迟。
文中客户数字均为自述:GitHub Copilot称数月内需全新处理的提示token占比下降超50%,Manus称缓存命中率从约85%升至90%以上,Strawberry Browser称推理成本降36%。这些是厂商与客户口径,未经独立验证。