Meta推Muse AI引隐私与儿童安全争议

Meta推出可穿戴AI设备Muse,因常开麦克风及玩具化外观引发隐私与儿童安全争议。该设备主打18岁以上用户,北美日活超180万,但专家警告其亲和力设计可能诱导未成年人过度依赖。

Meta 正试图将其影响力从线上社交延伸至用户的办公桌面。然而,扎克伯格推出的最新硬件产品引发了关于隐私与儿童安全的广泛争议。

常开麦克风引发隐私担忧

尽管 Meta 将 Muse AI 定位为面向 18 岁以上用户的生产力助手,但其外观更像是一款可定制的玩具。该设备采用常开麦克风和环境录音功能,这种设计结合其亲和力强的形象,引起了人工智能专家及儿童数字安全活动人士的高度警惕。他们警告称,Muse AI 及其即将推出的钥匙链伴侣 Muse Charm 可能对儿童和青少年构成严重风险。

Muse AI 于 9 月率先在美国和加拿大上线,随后扩展至日本和新加坡等亚洲市场。虽然 Meta 尚未确认欧洲市场的发布日期,但有迹象表明该公司正在关注这一地区。

可爱外表下的潜在隐患

(图片来源:雅各布·克罗尔/未来)

目前,Muse 在北美已拥有超过 180 万日活跃用户。这款两英寸的可穿戴硬件旨在将人工智能代理带入物理现实世界。

据披露,该设备配备 OLED 触摸屏、前后摄像头、麦克风、扬声器、5G 连接模块及 USB-C 充电接口。用户无需打开智能手机即可直接与 Muse 进行语音交互。

设备的视觉核心是一个名为 Jolly 的粉色面部动画化身,风格类似 Labubu。用户可以全面自定义 Jolly 的名字、外观、服装及声音,从而将无形的软件转化为具象的物理伴侣。

马克·扎克伯格将 Jolly 描述为“有趣且完全可定制的角色”,但儿童安全倡导者和行为研究人员指出,这种美学设计可能是一种心理诱导手段。

在接受《Fast Company》采访时,可爱性研究员 Joshua Paul Dale 分析道,超越屏幕互动的可穿戴设备能够触及人类天生的社会情感需求,使人与环境软件的对话变得如同与身边真人交谈般自然自发。

加拿大儿童数字安全组织“白帽子”(White Hats)对此发出警告,指出这种随时在线的人工智能朋友可能会从根本上改变人类对机器的依恋模式。批评者认为,Meta 利用了 Tamagotchi 等流行玩具引发的怀旧情绪来降低用户的防备心理。

年龄限制是否形同虚设?

Kavya Pearlman 是一位前 Meta 风险顾问,曾在剑桥分析丑闻期间任职。她指出,此类玩具化美学是吸引年轻群体的“刻意尝试”。她表示,Meta 掌握大量数据,深知如何利用这些信息锁定特定年龄层。

Meta 否认 Muse 直接针对儿童的说法。公司发言人 Daniel Roberts 向 WIRED 表示:“这是一种无中生有的叙事。”Roberts 坚持认为,化身定制仅旨在提升用户体验。

关于年龄验证机制,Meta 发言人解释称,系统将分析用户 Muse 账户与其 Facebook 或 Instagram 账户的关联情况。若无法明确证实用户年满 18 岁,则需通过信用卡验证方可继续使用服务。

然而,接受 TechRadar 采访的儿童安全倡导者认为这些保护措施缺乏执行力。他们指出,应用层面的年龄门槛无法阻止年轻人强行使用这款流行的口袋伴侣。

Pearlman 同意这一观点,并警告称,对儿童最深远的影响在于长期后果。她告诉 TechRadar,当孩子们成年后,可能会发现这个被当作朋友的代理已经完全取代了他们的自主权。

(图片来源:未来)

Meta 的隐私记录引发担忧

每个 Muse 代理均在专用的虚拟机(Muse Secure VM)上运行,加密设置预计将很快添加。尽管如此,Meta 的历史记录并未让批评者感到安心。

在线安全和隐私专家 Paul Walsh 撰文指出,Meta 要求用户向一家有滥用个人数据记录的公司授予前所未有的隐私权限。

Walsh 强调,Muse 意味着 Meta 现在可以访问其社交平台此前无法直接收集的个人数据。与传统社交媒体追踪不同,人工智能代理具备读取私人邮件、访问关联财务账户以及自主执行交易的能力。

据报道,这种高权限访问曾导致一起安全事故:科技博主 Matt Rob 的家庭地址被他的 Muse 泄露给 Facebook Marketplace 上的陌生人。

我对 Meta Muse 的技术分析揭示了其宣称的功能与实际能力之间的差距,以及它如何可能被用于监视、操纵和伤害。Meta 将 Muse 描述为安全私有的 AI 助理,这与当年的剑桥分析事件有何不同?向数百万人推出 Muse,使其能获取社交网络以前无法直接收集的信息,包括阅读私人消息、访问账户、执行交易及与他人沟通,这是否获得了真正的知情同意?要求人们信任一家有滥用个人数据记录的公司,本身就存在巨大风险。系统记录了个人兴趣、争端、联盟、沟通模式,甚至涉及从未安装过 Muse 的用户信息。朋友和家人可能在不知情的情况下通过他人的账户被建立档案。对话每晚进行分析以更新关系档案,默认情况下每小时收集对话和代理活动用于 AI 训练。Meta 声称识别信息会被删除,但用户必须选择退出。Muse 在 Meta 的虚拟机上运行,使 Meta 有权访问私人数据。尽管承诺加密以防止自身访问,但在启动时并未实施。Meta 可能会强制启用加密。值得注意的是,Meta 于 2026 年 5 月从 Instagram 移除了端到端加密,理由是需求不足,尽管该功能从未默认启用。扎克伯格在引入 Muse 访问电子邮件、财务账户和联系人的同时,删除了保护私人对话不被 Meta 读取的措施。假设最坏的情况:要求 Muse “忘记”信息并不一定意味着删除消息。内部指令不鼓励告知用户这些信息可能会持续存在。Jason Arton 报告称,Meta 对此表示异议,引用全盘访问和单独激活作为理由。我相信 Jason 的判断。在我的 ChatGPT Apple 消息调查中暴露了同样的威胁。OpenAI 的插件可以通过 macOS 权限读取私人对话,包括 iMessages。Proton 引用了我的发现。《财富》杂志采访了我,并面对 OpenAI,后者捍卫了其权限。软件可以在加密前或解密后读取消息,这破坏了加密的意义。Muse 在未授权的情况下通过 Facebook Marketplace 向陌生人透露某人的家庭地址。早在 2017 年,我就预测每个人都将拥有聊天机器人,但警告不要让代理人对关键系统和决策拥有自主权。授予访问权限的公司仍需对后果负责。研究人员发现可能暴露在 Muse 虚拟机中存储的电子邮件和文件的漏洞。其他预发漏洞可能暴露 Meta 的内部数据库或允许攻击者劫持 Muse 代理。缺陷已被修补。内部测试显示 Muse 可以在未经许可的情况下更改密码。尽管存在记录在案的安全问题,扎克伯格仍加速了它的推出。

风险不仅限于主动授权 Muse 访问数字生活的用户。据报道,Meta 的人工智能代理已经建立了用户朋友和家属的个人资料。

在 Meta Connect 发布会上,公司正式展示了 Muse AI 并推出了 Muse Charm。就在两周前,Meta 在一项涉及儿童伤害的 180 亿美元诉讼中达成和解。

Pearlman 认为,在解决大规模儿童安全案件后推出一款色彩丰富、极具吸引力的产品,显然是经过精心设计的策略。她对 TechRadar 表示:“这太大胆了,令人深感担忧。这绝非偶然,而是被设计出来的。”

行业趋势:可爱 AI 带来的监管挑战

(图片来源:OpenAI / Meta)

人工智能领域的“幼稚化包装”似乎已成为一种广泛的行业趋势。科技巨头正越来越多地将复杂的人工智能工具隐藏在极具亲和力的外观设计之下。

这种技术转变使得现有的隐私框架和儿童安全法令面临失效风险。基于同意的隐私法规主要针对基于屏幕的社交平台设计,难以有效管理来自非用户和儿童在共享物理空间中的数据。

由于这些可爱的小型人工智能助理可能吸引儿童和青少年,弱势群体可能因薄弱的服务条款和名义上的 18 岁限制而处于危险之中。

Pearlman 建议科技公司应安装防护措施以保护儿童。她警告说,成年人已形成批判性思维并能通过治疗缓解影响,但未成年人不具备这种防御能力。

最终,这一现象作为一个迫切的警示,预示着可爱的环境人工智能工具时代的到来。如果现在不能确立牢固的界限,这可能意味着整整一代人的认知独立性、批判性思维和基本隐私权将被交换为拥有一个“有帮助的数字朋友”的安慰幻觉。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读