Google发布Genie 4:具备原生多模态与实时交互的世界模型

Google发布Genie 4世界模型,具备原生多模态与实时交互能力。该模型整合Gemini家族功能,能同步生成符合物理规律的场景、音频及对话,目前以研究预览形式向部分订阅者和合作伙伴开放。

Google 发布 Genie 4:具备原生多模态与实时交互能力的世界模型

2026年10月27日,由雷亚·哈德塞尔(Reya Hadsell)、迪戈·里瓦斯(Diego Rivas)和杭奇(Hang Qi)领衔的团队正式宣布推出 Genie 4。这是一款旨在提升现实主义水平并优化实时交互模拟的新世界模型。

Genie 4整合Gemini实现实时交互

Genie 4 的核心特性在于其原生多模态能力。该模型能够与世界状态同步生成类似音频的音乐、环境噪音以及交互式对话。在技术架构上,Genie 4 深度整合了 Gemini 家族的功能:其中 Gemini Omni 负责确保模拟场景在外观和行为上符合现实世界的物理规律,而其他 Gemini 模型则提供维持模拟连贯性与连续性所需的复杂推理支持。

基于这一基础,用户启动特定事件后,Genie 4 将模拟后续发展,包括世界的反应机制、声音响应方式,以及场景中人物的移动、反应和对话逻辑。理解并模拟世界被视为构建通用人工智能(AGI)的关键环节,其应用场景涵盖机器人训练环境开发及新型交互体验的创建。

目前,Genie 4 以研究预览形式向可信测试者开放,主要面向 Project Genie 的 Google AI Ultra 订阅者以及通过 Gemini API 和 Google AI Studio 获得早期访问权限的合作伙伴。官方已开启“Genie 4”项目等候名单。

图示展示了增强的摄影现实性、流体运动及原生音频功能。所有伴随声音均由 Genie 4 直接生成。

Genie 4 的四大关键功能升级

以下分析基于 Genie 4 的实时交互记录,演示中用户通过标准键盘控制导航与摄像机视角,并利用文字提示引导场景演变。

实时塑造世界模拟

用户可以通过指令改变天气、移动摄像机或引入新的人物与物体。Gemini 会根据当前环境自动调整提示词以匹配周围场景。在用户输入间隙,Gemini 持续监控并指导现场状态。

突破物理学与人类行动的现实主义边界

Genie 4 为实时交互模拟确立了新的现实主义标准。基于对世界先进的物理理解,该模型能够模拟现实世界的物理场景。其中最显著的突破在于对人类动作的自然模拟,创造出流畅且真实的移动效果。

模拟世界的声音

作为首个具备本地生成音频能力的实时世界模型,Genie 4 能为每个生成的世界赋予独特的环境声音,从风吹树叶到海浪拍打海岸。此外,模型引入了可动态调整的交互式对话功能,角色不仅能与用户交谈,还能对用户输入的信息或世界内发生的事件做出反应。

结合 Gemini 模型模拟复杂事件

Gemini 与 Genie 4 的结合为世界模拟增加了推理层,使其能够处理复杂的多步骤事件。为实现实时运行,Gemini 3.8 Flash 充当循环中的指导代理:当 Genie 4 实时生成世界时,Gemini 持续观察场景,将目标分解为一系列步骤,审查传入信息以跟踪进度并验证每一步的成功与否。随着世界变化或用户干预,Gemini 会随时调整计划,从而解锁具有可靠因果关系、程序行为和多步推理的世界。

在探索这一能力的过程中,团队还在试验 Gemini 4 Argon 与 Genie 4 的配合,以推动前沿研究与 Gemini 机器人的协作。例如,Argon 可将用户指导的任务分解为 Genie 执行的渲染步骤,这些步骤作为文本标题交错呈现在 Genie 4 的模拟画面中。由于 Genie 4 可通过 Gemini 的文字标题进行实时引导,这为完成任务时的模拟调整提供了路径。

Gemini 4 Argon 与 Genie 4 协同工作,模拟 Apptronik Apollo 人形机器人下棋的场景,并将任务分解为实时步骤。

来自可信测试者的反馈与应用场景

尽管 Genie 4 是重要的研究里程碑,但其仍属于早期实验模型。为了了解交互式世界模型如何支持现实工作流程及其待改进之处,团队正与创意行业、新闻、教育、游戏和工程领域的可信测试者合作。测试者指出,摄影现实主义、原生音频和实时方向盘的飞跃使得概念转化为现实模拟成为可能,开启了跨学科的新能力:

  • 创意方向:创意人员和技术人员正在将 Genie 4 用作快速“草稿模式”,用于预视化和构想。例如,电影制作人可进入现场模拟场景并实时运行多个“拍摄”,即时调整摄像头角度、照明、对话和动作。
  • 历史情景与沉浸式照片:摄影记者正在探索如何将单一的二维档案照片在几秒钟内转化为接地的环境模拟。团队正在测试人口密集、动态的世界如何帮助体验历史空间或想象短期环境事件。
  • 交互体验概念设计:游戏开发人员和创意技术专家正在测试 Genie 4,通过自然语言提示在几秒钟内从最初想法生成可探索的原型,测试视觉风格、材料美学和交互力学,无需编写引擎代码。
  • 模拟应用:除机器人研究外,各行业的企业合作伙伴正在评估 Genie 4 作为快速“零到一”场景生成的工具,并确定进一步改进 Genie 以满足模拟需求的差距。

未来展望:迈向混合世界模型

未来的进步路径在于混合世界模型,即结合代码和语言模型的逻辑结构推理与像素级模拟的丰富感官表示。拉近 Genie 和 Gemini 的距离是朝此方向迈出的第一步。在这种架构中,Gemini 在幕后绘制结构并规划叙事时间线,而 Genie 则产生直接的物理现实,呈现世界的外观、声音和反应。这种互补优势有望释放出比单一方法更连贯、可控且有基础的新类世界模型。

安全性与局限性说明

Genie 4 标志着融合实时生成和摄影现实主义的前沿研究领域。在推出预览版之前,团队通过内部严格的安全评估以防止有害或恶意内容的产生。为保持透明度,所有由 Genie 4 产生的视频和音频都将包含 SynthID 标识。

目前,Genie 4 仍处于不断发展的早期阶段。虽然它能在短时间内保持连贯的环境,但视觉细节和对象的永久性可能会随时间推移而变化或漂移,特别是在模拟运行时间较长、经过多次复杂提示编辑或在整个场景中导航时。复杂的物理交互、实时音频精度、可读的文本渲染、空间精度和长期一致性仍是正在进行的研究领域。团队将以预览形式分享 Genie 4,并与社区共同推进交互式模拟的前沿。

下一步计划

Genie 4 已向可信测试者发布研究预览,并将很快向 Project Genie 中的 Google AI Ultra 订阅者以及 Gemini API 和 Google AI Studio 的早期访问合作伙伴开放。官方鼓励用户加入“Genie 4”项目等候名单,以便进入、实验并建立自己的互动世界。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读