2026 年 10 月 2 日
作者：拉斐尔 F Ciriello、亨利弗雷泽、凯瑟琳 Backholer（来源：The Conversation）
传统的网络隐私概念建立在用户对自己分享内容的控制权之上。然而，生成式人工智能的普及正在颠覆这一前提。大型 AI 公司可能掌握着大量关于个人的信息，即便这些个人从未直接注册或使用过相关服务。
这种数据收集现象不仅限于 ChatGPT、Gemini 或 Claude 等主流产品。许多聊天机器人和伴侣类 AI 应用具备记忆过往交互、个性化回复以及模拟人类声音和行为的能力，甚至能主动发起联系。这些旨在提升用户体验的功能，同时也引发了严重的隐私泄露与知情同意缺失问题。
非自愿的信息共享现状
数据显示，15% 的澳大利亚成年人曾向聊天机器人透露过个人的想法或情感。在青少年群体中，这一比例显著更高。根据澳大利亚电子安全专员的数据，54% 的 10 至 17 岁儿童使用聊天机器人获取个人或社交建议，约三分之一的儿童则利用其寻求生活指导。
更令人担忧的是，人们在未知或未经同意的情况下，往往将他人的私密信息输入 AI 系统。例如，同事可能为了排查工作问题而将你的电子邮件粘贴到 ChatGPT 中；朋友可能上传你的短信截图以协调周末计划；伴侣可能在对话中提及你们最近的争执；父母也可能出于对子女健康或财务状况的担忧而向 AI 咨询相关信息。
由于这些互动发生在数十亿次的日常使用中，且缺乏透明度，普通用户很难知晓自己的哪些信息已进入 AI 系统，也无法追踪数据的流向。
拟议的法律改革框架
核心风险在于 AI 公司如何利用这些私下获取的知识。这些数据可能被用于训练模型、实施个性化推荐、进行分析或投放广告。更为严重的是，亲密的个人知识可能被用来操纵用户行为，包括推送潜在有害的广告、进行政治说服，甚至强化极端主义信仰。
为应对上述挑战，澳大利亚正考虑推进两项关键的法律改革：
- 隐私法改革：要求对个人信息的处理必须公平合理，并引入“删除权”。这将强制大型数字平台根据用户请求销毁其持有的个人信息。
- 网络安全法修正案：要求在线服务提供商评估并管理由其设计和运营所产生的可预见风险。
这两项举措若能有效落实，将有助于保护非用户群体的隐私，并遏制因聊天机器人设计缺陷导致的伤害。然而，执行层面的细节至关重要：如果用户不知道谁持有哪些信息，如何行使删除权？因此，需要具体措施确保法律要求得到切实遵守。
确保法律落地的技术与管理措施
首先，隐私保护应内嵌于系统设计之中，而非仅作为设置选项存在。交谈式 AI 应具备自动识别并丢弃不必要敏感信息的能力，同时仍能准确响应用户指令。鉴于技术手段已具备可行性，法规应要求提供商主动识别并删除涉及用户及第三方的非必要信息，并提供便捷的工具供用户查看和清除存储数据。
其次，需明确限制数据使用的目的。虽然 AI 可能需要临时调用第三方信息来响应即时请求，但这不应成为无限期保留该数据用于训练、定位、广告投放或其他无关个性化服务的理由。
第三，删除权的行使不应依赖于是否拥有账户。服务商需提供无需注册即可查询自身信息状态并提出删除申请的实用途径。此外，通知机制的设计必须兼顾安全性，避免在家庭暴力、强制控制、举报人或保密场景下暴露受害者身份。拟议的数字照顾义务要求平台妥善管理此类可预见的风险。
透明度与独立监管
最后，不能仅依赖 AI 公司的自我承诺。提供商应公开披露其检测、保留和重复使用第三方信息的具体机制，并通过独立的测试和公开报告来验证保障措施的有效性。这一点在提供商通过订阅费、数据分析及广告获利的商业模式下尤为关键。
澳大利亚提出的数字照顾义务赋予电子安全专员制定具体规则的权力，而这些规则的实际效力取决于执行细节的完善程度。目标并非禁止交谈式 AI 或限制人们讨论生活，而是将责任主体从用户转移至工具提供者。掌控系统并从中获利的企业，不应将由此产生的隐私风险转嫁给公众。
