OpenAI 正式向所有用户广泛推出其决策 API 模型，标志着该公司进入追求速度与低成本智能的市场领域。
这一举措旨在响应 TypeSafe 推出的 Jev 模型所引发的竞争。Jev 模型被定义为一种“超级分类器”式的深度学习模型：当给定一组选项时，它们能迅速做出选择并提供信心评级。软件开发人员发现，这类被称为“系统一”（System One）的决策模型在许多工作流程中可替代传统大语言模型（LLM），具备运行更快、成本更低的优势。
OpenAI API 产品负责人 Nikunj Handa 向 TechCrunch 透露，其团队在注意到 Jev 模型的潜力后，意识到存在大量应用场景。Handa 的团队并未从头构建专门校准的决策模型，而是基于 ChatGPT Luna 进行重新配置，以加速推理过程并降低成本。
“Decisions API 带来的最大突破在于速度，将处理时间从 1 到 3 秒缩短至 100、120、180 毫秒，”Handa 表示。“未来，我们或许会进行专门的训练，让模型在这些方面表现得更加出色。但目前，仅凭普通的 Luna 就能搞定一切。”
该功能于 OpenAI 9 月 29 日的开发者日上首次宣布，并于本周四面向所有客户开放。公共版本新增了语音和视觉模式，并通过地理定位推理资源，以降低全球各地的延迟。
在与 Box、Datadog、Ramp 和 Speak 等客户的初步试验中，工程师利用该 API 取代 OpenAI 原有的 LLM 以提升吞吐量。人工智能语言教师开发公司 Speak 的首席技术官 Andrew Hsu 指出，决策 API 使公司的动作间隔时间从 1.4 秒大幅缩短至 0.13 秒。此外，OpenAI 也使用该优化后的产品提升了其 Dots 语音助手的响应能力。
目前，针对智能、成本、校准和速度的优化效果因具体工作负载而异。尽管 TypeSafe 首席执行官 Diogo Almeida 对通用基准测试持保留态度，并建议用户在自身业务场景中试用这些模型，但 TypeSafe 上周仍发布了相关排名。
根据 AIM System One 指数和人工分析决策指数等公开基准数据，Liquid 上周发布的 D1 Ultra 以及 Base 实验室的 Elephant-1 表现较为突出。最新的 Jev 模型在这两个指数上分别位列第七和第三，保持竞争力；而 OpenAI 的决策模型则分别排在第八位和第十四位。不过，TypeSafe 的产品目前在 OpenRouter 平台上最受欢迎。
另一个有趣的基准测试是 JevMan，即让决策模型玩《吃豆人》游戏。在此项测试中，最新的 Jev 模型排名第一。建立该基准的 Opper AI 首席增长官 Felix Wunderlich 表示，经典游戏是一个有趣的测试场景，因为模型必须在每个交叉点几百毫秒内决定移动方向。
Handa 告诉 TechCrunch，OpenAI 更强大的多模态模型在图像分类任务中可能具有优势。他提到，extremelyLuna 非常强大且显示出更好的校准效果，同时补充说，OpenAI 的客户希望决策 API 在以图像作为输出时具备更高的灵活性。
Handa 还展望了进一步的速度提升及其带来的新用例：“如果我们能把这个变得像你知道的 60 毫秒，然后你可以想象像视频中的每一帧都调用一次 API 一样的场景？”
随着这些服务变得更快速、更便宜，预计它们将符合“Jev”这一名称背后的经济学理念——即通过更高效地利用资源使其普及化，直到决策模型揭示出其隐藏的价值。
