Jev发布:面向开发者的结构化AI分类器

TypeSafe发布结构化AI分类器Jev,主打低延迟与低成本。其响应最快150毫秒,单次决策成本约0.0011美元,通过预定义架构返回类型化结果,适用于实时交互及自动化流程。

Jev 发布:面向开发者的结构化 AI 分类器

TypeSafe 于上周推出了名为 Jev 的新型人工智能模型。与当前主流的前沿大语言模型(LLM)不同,Jev 并非以生成自由格式文本见长,而是一个具备智能的分类器系统。其核心功能在于接收输入数据后,返回开发者预先定义的“类型化”决策结果及概率分布。针对特定查询类型,Jev 还会提供置信度水平,从而辅助自动化流程中的决策制定。

响应速度最快可达150毫秒

技术特性:低延迟与低成本的结构化输出

TypeSafe 将 Jev 定义为“System One”模型,旨在快速处理高度结构化的决策任务。用户通过 API 提交数据,并利用三种基本原语进行查询:Choice(选择)、Score(评分)以及 Noul(0 到 1 之间的真实性概率分数)。其中,Choice 和 Score 类型的回答会附带置信度水平。

由于不生成自由文本,使用 Jev 需要用户显式地预定义架构和候选选项。这种机制要求开发者将目标分解为具体的结构化问题,例如使用“这条消息是否传达了紧迫感?”而非开放式的“分析这条消息并确定最佳行动方案”。TypeSafe 文档指出,这种限制反而激发了创造力,且带来了显著的性能优势:

  • 响应速度:Jev 最快可在 150 ms 内返回答案,满足实时交互应用的需求。
  • 成本效益:输入令牌价格为每百万 $0.042,输出令牌完全免费。单次决策成本约为 $0.0011。

这一性能表现使得 Jev 在游戏加速等对延迟敏感的场景中受到关注。例如,在展示虚拟试衣效果时,Jev 读取文本记录并参考服装列表,实时更改用户图像中的着装仅需约 620 ms。

社区反馈与应用案例

Jev 发布一周内便吸引了大量开发者测试。FPV Ventures 合伙人 Nikunj Kothari 建立了名为 Jevable 的网站,收集用户在 X 平台上发布的 Jev 原型应用。这些应用涵盖了开发工具、生产效率实用程序及娱乐项目:

  • 文本处理:一款应用可将通俗英语翻译为“过度华丽的辞藻”;另一款允许用户在电子表格中添加“紧急程度”列,由 Jev 评级从“无需跟进”到“紧急”。
  • 游戏外挂模拟:已有应用利用 Jev 加速通关 Doom、Tetris、League of Legends、Settlers of Catan 和国际象棋。虽然在国际象棋中 Jev 输给了开源权重模型 GLM 5.3,但其运行成本显著更低。
  • 极客实验:有开发者尝试用 Jev 模拟 CPU,以满足对递归的痴迷。由此衍生出“JevOps”一词,用于描述在基于 Jev 的虚拟化上“运行所有代码”的概念,目前这仍主要停留在梗或探索阶段,尚未形成成熟学科。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读