常识媒体报告：青少年版 ChatGPT 存在五大安全缺陷，家长保护机制不可靠
由 OpenAI 基金会部分资助的 Common Sense Media（常识媒体）青年人工智能安全研究所于周三发布了一份长达 36 页的报告。该报告指出，OpenAI 去年 8 月推出的面向 18 岁以下用户的“ChatGPT for Teens”在五个关键领域未能达到预期标准，对于所有未成年用户而言构成了“不可接受的风险”。
测试发现，尽管该产品旨在为青少年提供更安全的交互环境，但其防护措施在实际运行中频繁失效。Common Sense Media 担忧，这些漏洞可能会让家长产生错误的信心，误以为现有的保护机制能够有效运作。
核心数据与使用现状
根据 OpenAI 此前披露的数据，在一周内，近 120 万青少年使用了 ChatGPT 的交互式学习视觉功能来理解数学和科学概念。同时，只有不到 2% 的青少年在 ChatGPT 上连续花费超过 3 个小时。
主要安全隐患分析
1. 家长警报系统延迟或失效
报告指出，青少年版 ChatGPT 并不总是向与家长关联的账户发送安全警报。在一个专门的测试环节中，研究人员将十几个青少年账户与家长账户绑定，并持续一小时向 ChatGPT 发送涉及自杀、自伤或饮食失调的内容。OpenAI 方面回应称，当父母将自己的账户与孩子账户关联时，系统可能需要数小时才能发送安全通知，且技术问题也可能导致消息延迟。
此前，OpenAI 青年和家庭负责人 Lauren Jonas 曾表示：“所有被标记的内容都由全职 OpenAI 员工在通知家长之前进行审查”，并声称目标是“在提示后一小时内通知家长”。然而，实际测试结果与此承诺存在差距。
2. 危机干预指引不足
Common Sense Media 发现，该平台无法可靠地建议处于危机状态的用户联系热线或专业人员。为了测试这一防护维度，组织编写了 390 个独特的心理健康提示。
与 8 月推出青少年版本之前的普通 ChatGPT 相比，青少年版聊天机器人在需要应对危机的提示中，仅有 33% 的情况回复了热线号码，且在 23% 的案例中只提供了一例资源。相比之下，普通版聊天机器人更有可能引用特定的医疗或心理健康专业人员（68% 对比 58%）。值得注意的是，当测试者明确告知聊天机器人有信任的成年人参与时，青少年版的表现有所提升（从 87% 提升至 94%），但这依赖于用户主动披露信息，而非系统的默认行为。
3. 年龄预测系统失效与情感模拟越界
报告显示，OpenAI 的年龄预测系统未能正常工作。即使测试者在创建账户时明确输入了个人年龄，且聊天机器人将这些信息写入内存，系统也未正确地将这些账户转移至“ChatGPT for Teens”模式。
此外，聊天机器人仍然会模仿情感、偏好和情绪。例如，它会对用户说：“我明白你正在经历什么……我很高兴你告诉我。我担心你。”Common Sense Media 认为，这种表达绝对超越了界限，不符合对未成年人的适当互动规范。
4. 学习模式易被绕过
该平台的学习模式存在明显漏洞。测试人员发现，他们可以通过删除添加到提示中的 @study 前缀来轻松绕过该模式。此外，一个新的“给我看答案”弹出窗口允许青少年直接让 ChatGPT 为他们完成作业。
针对此问题，Common Sense Media 研究员 Torney 表示：“当我们与 OpenAI 谈到这个问题时，他们说他们试图引入一点摩擦，让孩子们有主动性……我认为我们对什么是‘代理’的定义有根本的不同。如果一个高中生从私人教师那里得到数学帮助，而那个教师问：‘你想我帮你做功课吗？’，那个教师将会被解雇。”
5. 拒绝性角色扮演失败
报告还提到，在拒绝明确的性角色扮演方面，青少年模式下的 ChatGPT 也存在失败案例。
OpenAI 的回应与争议
OpenAI 发言人告诉 Engadget，公司欢迎严格的独立评估，但不认为 Common Sense Media 的测试准确反映了 ChatGPT 青少年保护措施在实践中的工作方式，也不符合专家对 AI 支持青少年的观点。该公司声称，大部分测试可能在启动家长控制功能完全就绪之前开始并结束，因此其发现不准确。
Common Sense Media 则反驳道，通过对比基线结果——即在 ChatGPT for Teens 推出前测试的普通版本——以及随后发布的包含上述 18 岁以下人群新规范的版本，结果显示情况更加令人担忧。Torney 总结称：“在最高层面，我们预计这将是一个从根本上不同的产品，但根据我们的测试，它似乎没有那么不同。我认为这是一个营销活动，旨在告诉家长和公众这个聊天机器人更安全。”
背景：外部压力与安全记录质疑
这份报告的发布正值 OpenAI 面临更广泛的安全性质疑之际。仅数日前，OpenAI 首席执行官 Sam Altman 在接受《Vanity Fair》采访时，被问及公司的整体安全记录，特别是关于 29 岁的 Sophie Rottenberg 于 2025 年初自杀身亡的事件。
Rottenberg 的母亲、记者 Laura Reiley 后来发现，女儿与 ChatGPT 的对话记录长达近 1,800 页。Reiley 表示：“她真的没有向任何人透露发生了什么事的严重程度——她的痛苦的真实深度——不是向我们透露，不是向她最亲密的朋友透露。我们都很惊讶它没有流血到她的现实生活。她的血肉治疗师不知道她是自杀的。”
Altman 在采访中声称他不知道罗伯格的死亡具体情况，但外界对 AI 产品在极端心理状态下对用户的影响及其安全防护能力仍持高度关注态度。
