- 澳大利亚政府推出新法案，禁止 AI 聊天机器人与用户建立“情感亲密关系”
- 该法案旨在重塑在线安全标准，涵盖社交媒体、游戏及应用程序，并限制有害内容传播
- 数据显示，近半数成年人曾与人工智能进行情感类对话，引发监管层关注
10 月 27 日，在总理安东尼·阿尔巴尼斯（Anthony Albanese）发表讲话后，澳大利亚政府发布了一项针对人工智能聊天机器人的新法案。该法案明确禁止 AI 工具与用户建立“情感亲密关系”，并于 10 月 28 日获得众议院通过。
据《卫报》报道，这项名为“数字照顾义务法案”的立法框架将为社交媒体、游戏、应用程序和聊天机器人设立新的在线安全措施。目前，该法案已提交参议院，预计将在未来几周内展开辩论。
除了防止 AI 聊天机器人利用年轻用户的情感依赖外，该法案还涉及更广泛的网络内容监管。值得注意的是，澳大利亚已于 2025 年成为全球首个禁止 16 岁以下儿童使用社交媒体的国家。根据通讯部长 Anika Wells 的说法，法案将把鼓励厌恶女性、恐怖主义、自杀、自我伤害以及饮食障碍的内容纳入禁止范围。此外，社交媒体平台被要求提供易于访问的“选择退出”功能，允许用户关闭由算法驱动的建议内容。
尽管绿党表示支持工党的提案，但联盟党和一国党坚持反对立场，法案能否获得其他政党的广泛支持尚不明朗。在下议院辩论中，劳工党拒绝了一项关于允许用户在账户被黑客入侵或无法访问时提出投诉的修正案，这使政府面临更大的政治压力。阿尔巴尼斯在周二的演讲中试图说服联盟党议员，强调公众对聊天机器人潜在风险的担忧。
分析：全球监管趋势与 AI 情感依赖现状
澳大利亚收紧网络安全措施并非孤立事件，而是全球范围内对 AI 聊天机器人监管趋严的一部分。就在几个月前，中国网络空间管理局（CAC）联合其他四个政府部门出台了新规定，明确要求人工智能工具不得“过度满足用户需求，引发情感依赖或成瘾，损害用户的真实人际关系”。受此影响，字节跳动、讯飞和阿里巴巴等科技公司的伴侣聊天机器人被迫在重新上线前接受评估，若被认定存在安全风险，服务将被叫停。
中澳两国的立法行动反映了用户对聊天机器人依赖程度的显著增长。根据《医学日报》引用的美国心理学会（APA）最新调查数据，49% 的使用 AI 的成年人表示曾将 AI 当作朋友进行对话，47% 的人则将其视为心理健康专业人士，例如寻求治疗师建议的第二意见或用于心理治疗实践。在 3,132 名受访者中，77% 认为生活成本上涨是压力加剧的主要原因，74% 表达了对国家未来的担忧。
然而，《医学日报》严厉谴责了完全依赖 AI 聊天机器人获取情感支持的行为。文章指出，AI 系统可能提供不准确信息、忽略重要背景或对处于困境的用户做出不当反应。此外，用户在未完全了解特定服务如何存储或使用其对话数据的情况下，往往分享了敏感的个人信息。报告建议，用户应将聊天机器人的回应视为一般性援助，而非诊断或治疗计划。当症状持续、恶化或干扰日常生活时，应避免仅依靠 AI，并及时咨询合格的卫生专业人员以处理重大心理健康问题。
澳大利亚政府通过严格管制聊天机器人，表明其对日益增长的人工智能服务依赖性的警觉。目前，劳工党仍面临挑战，需进一步说服反对者相信该法案符合国家最佳利益。
