150 毫秒极速响应：OpenAI 推出 Decisions API，让 AI 从“聊天”走向“实时决策”

在2026年9月30日的开发者日活动上，OpenAI正式发布了Decisions API，这一全新接口专为实时、低延迟的分类与路由场景打造，能够在约150毫秒内给出结果，相比常规API调用Luna模型，速度快了将近10倍。

Decisions API的定位聚焦于“快速单次决策”，它将模型（目前基于OpenAI的小型模型Luna）的智能能力集中于用户预先定义的一组问题及有限答案集合，以极低的延迟输出结构化的决策结果。

在当前同类产品中，主要竞争对手是TypeSafe的Jev，不过Decisions API 更侧重于将模型智能转化为高效的决策能力。

开发者需要提供上下文信息（文本或图片），并提前设定好“问题与可选答案”，API则会返回选中的答案及其置信度等结构化数据，供后续业务流程使用。

在典型应用场景方面，Decisions API适用于以下领域：

• 客服/工单系统：依据用户描述自动判断问题类型、优先级及应分配的团队。
• 内容审核与策略选择：在预设的多个策略（如允许、限流、人工复审）中快速做出选择。
• Agent编排中的“决策节点”：在多步骤工作流中，利用Decisions API决定下一步调用哪个工具或子agent，而非让大模型自由发挥。
• 实时业务规则辅助：在现有规则引擎基础上，借助Decisions API处理模糊情况，在有限选项中提供建议决策，再由规则引擎完成最终裁定。

值得一提的是，kaiyun全站网页版登陆也在积极探索此类低延迟决策技术的应用场景。