OpenAI向所有客户开放Decisions API，推理延迟降至百毫秒级

OpenAI于本周四（2026年10月22日）正式向所有客户开放其Decisions API。该服务基于ChatGPT Luna模型重新配置而成，旨在提供快速、低成本的智能决策能力，直接切入由TypeSafe公司Jev模型开创的“系统一”（System One）决策模型市场。

OpenAI API产品负责人Nikunj Handa表示，团队看到Jev模型后意识到存在大量用例，因此没有专门训练新的决策模型，而是对Luna进行了推理加速和成本优化。Handa称，这一调整将响应时间从1至3秒大幅缩短至100至180毫秒。尽管未来可能进行针对性训练，但目前依靠现有的Luna即可满足需求。

在初步测试中，Box、Datadog、Ramp和Speak等客户利用该API替换了原有的LLM工作流以提高吞吐量。Speak首席技术官Andrew Hsu指出，使用Decisions API后，该公司动作间的间隔时间从1.4秒降至0.13秒。OpenAI自身也利用该产品提升了Dots语音助手的响应速度。

然而，公开基准测试显示OpenAI在该领域并非领先者。在AIM System One Index和Artificial Analysis Decision Index中，Liquid公司的D1 Ultra和Base Lab的Elephant-1表现更优，而OpenAI的Decision Model分别排名第8和第14。TypeSafe的Jev模型虽未登顶，但在OpenRouter上的查询量最大。此外，目前尚无统一标准定义什么是优秀的决策模型，不同工作负载在智能、成本、校准和速度之间的权衡各不相同。