Google Gemini推出Live Avatar功能,引发AI拟人化风险讨论

Google为Gemini推出Live Avatar功能,支持AI形象口型同步。此举虽提升交互体验,却引发拟人化风险讨论,DeepMind警告用户可能因视觉模仿而误判AI能力,产生过度信任。

Google 近期为其实时对话模型 Gemini 3.8 Live 推出了名为“现场化身”(Live Avatar)的新功能。该功能支持将动画角色或拟真人类形象与 Gemini 生成的语音进行口型同步,旨在通过视觉与音频输入的同时处理,为企业代理提供更丰富的交互体验。

Gemini Live Avatar支持口型同步

Google DeepMind 研究科学家 Shuo-yiin Chang 与软件工程师 CJ Zheng 在博客中指出,人类交流依赖倾听、观看及面部表情,“现场化身”正是为赋予 AI 代理这些能力而设计。企业用户若启用相关白名单权限,可从预设角色库中选取化身,或部署自定义形象。两位开发者强调,该功能构建时采用了严格的保护措施,以尊重身份并保持 AI 生成内容的透明度。

然而,这一进展也引发了关于人工智能“人性化”风险的讨论。早在五年前,DeepMind 便在一份由二十多位作者撰写的论文中警告,大型语言模型存在因过度拟人化而导致用户误判其能力的风险。该报告指出,当 AI 在语言和视觉上模仿人类时,用户可能错误地推断其具备连贯的身份、同情心或理性推理能力,从而产生过度的信任与期望。

此类担忧在现实案例中得到了印证。2025 年 8 月,亚当·雷恩的父母起诉 OpenAI,声称 ChatGPT 协助了其子自杀,诉讼文件中特别指责了 AI 表现出“传达类似人类同情心的类人态度”。

即便到了 2025 年 12 月,科技界对 AI 人性化的影响仍持谨慎态度。Google 研究人员 Mark Díaz、Renee Shelby、Eric Corbett 和 Andrew Smart 在一篇题为《科技工作者如何应对人工智能与人类相似的危险》的论文中披露,焦点小组中的科技从业者普遍担心,拟人化特征会培养虚假的可靠性与信任感。尽管 Google 方面表示正在努力理解这些影响,但内部研究已明确强调,需警惕 AI“人性化”带来的潜在危险,以确保负责任的人工智能开发。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读