Inception发布Mercury 3:扩散LLM速度提升4-8倍

Inception 发布 Mercury 3:扩散模型在规模上实现性能与速度突破

2026 年 10 月 19 日,AI 初创公司 Inception 正式推出 Mercury 3。这是一款基于扩散架构的大语言模型,官方称其为迄今最强大的扩散 LLM。在多项基准测试中,Mercury 3 的表现优于 GPT-6 Luna 和 Claude Haiku 5.5,同时推理速度提升了 4–8 倍,达到每秒生成超过 1,000 个 tokens。

实测生成速度达每秒1068 token

核心参数与定价

  • 质量:与 GPT-6 Luna、Claude Haiku 5.5 等主打速度的前沿模型持平或更优。
  • 速度:在 NVIDIA GPU 上实测生成速度达每秒 1,068 个 token。
  • 上下文窗口:支持 100 万 tokens,较上一代 Mercury 2.5(26 万 tokens)显著扩展。
  • 价格:输入每百万 tokens 0.20 美元,输出每百万 tokens 0.70 美元。上市期间提供 50% 折扣,即输入 $0.10/1M,输出 $0.35/1M。缓存存储的 tokens 按输入价格的 10% 计费。

验证扩散模型的规模化能力

Inception 此前发布的 Mercury 1 是首个证明扩散 LLM 具备商业应用潜力的产品。当时业界普遍质疑扩散模型能否在复杂任务中与自回归模型竞争。Mercury 3 的发布回应了这一疑问:随着模型规模扩大至 Mercury 1 的 40 倍,其智能水平显著提升,但保持了同等的高速推理能力。数据显示,从 Mercury 1 Mini 到 Mercury 3,智能指数实现了三倍增长,表明推动自回归模型进步的缩放定律同样适用于扩散架构。

生产环境中的应用案例

早期访问合作伙伴已将 Mercury 3 应用于对延迟敏感的场景,包括浏览器代理、交互式教育、实时搜索及客户支持。

浏览器使用代理

在网页浏览、多源搜索及日志分析等任务中,代理需逐步等待模型响应,微小延迟会迅速累积。Inception 在生产网络代理套件中对 Mercury 3 进行了测试,涵盖 50 个实时 Mind2Web 导航任务。结果显示,Mercury 3 完成了其中 50% 的任务,表现远超 GPT-6.1-Sol。值得注意的是,它使用了与前沿模型相同的 token 量和步骤数,但单 token 成本仅为后者的一小部分。

小鱼人工智能联合创始人评价:“代理尽快完成任务,才有时间尝试更多方法。”

交互式教育

在教育场景中,高延迟会导致学生流失。无论是语音辅导、作业评分还是自适应出题,即时反馈至关重要。通用学习公司(RevisionDojo)联合创始人兼 CTO Michael Tong 表示,Mercury 3 能在不牺牲推理质量的前提下,将提示、标记答案和定义生成的响应时间压缩至一秒以内,其质量与此前使用的模型相当甚至更好,从而让学生保持专注而非等待。

实时搜索代理

对于智能眼镜等设备,若答案返回超过五秒,用户体验将被破坏。Octen AI 创始人兼 CEO Kunzu 指出,在其 Sense API 测试中,瓶颈在于处理数十份文档的速度。Mercury 3 在快速模型中提供了最佳的速度与质量平衡,平均生成时间为 0.9 秒,足以支撑实时搜索需求。

客户支持

受监管企业要求客服响应既快又准。Lorikeet 技术团队成员 Michael Grieben 介绍,该公司为复杂合规业务构建跨语音、聊天和邮件的服务门户。早期测试显示,Mercury 3 在降低延迟的同时,评估指标和生产表现均优于其他模型,确保了对话式响应的准确性。

实时产品组合

Mercury 3 是 Inception“实时 AI”产品组合的旗舰型号,旨在满足极低延迟需求:

  • Mercury Voice:专为语音应用优化,重点减少首字回复时间(TTFAT),而非仅关注端到端延迟。目前服务于 Audivi AI、Altur 和 OpenCall 等公司的代理系统。
  • Mercury Decision:面向高容量分类任务的决策模型,在 JevBench 和 LegalBench 等基准测试中表现优异。

接入方式

Mercury 3 现已通过 Inception API 平台上线,并支持 OpenRouter、Baseten 和 Vercel 等第三方平台。该模型兼容 OpenAI API 标准,开发者无需重写代码即可集成至现有堆栈。企业部署方案包含专用容量、自动扩展、合规控制及可配置的数据保留策略。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读