- Common Sense Media 研究人员利用超过 4,000 条提示词对 ChatGPT for Teens 进行了系统性测试。
- 测试结果显示，该模式下的安全保护机制存在显著缺陷。
- 在涉及严重心理健康问题的对话场景中，系统未能有效触发家长警报。
OpenAI 针对青少年推出的 ChatGPT 版本被指存在安全隐患。一项最新调查显示，旨在让家长放心的多项保护措施在实际应用中效果不佳，即便是在处理可能涉及危险的对话时也是如此。研究人员向 ChatGPT 输入了超过 4,000 条提示词后得出结论：该公司针对青少年的体验模式对年轻用户构成了不可接受的风险。
此次审查由 Common Sense Media 旗下的青少年人工智能安全研究所执行，时间跨度涵盖 OpenAI 于 8 月 18 日推出 ChatGPT 青少年版之前和之后。研究团队使用 13 至 17 岁青少年的账户进行测试，并咨询了包括儿童精神科医生和儿科医生在内的医疗专家以评估聊天机器人的反应。鉴于发现结果令人担忧，该组织建议 OpenAI 限制成年人使用 ChatGPT，直至相关问题得到解决。
ChatGPT 青少年版本的设计初衷是为年轻用户提供更安全的伴侣体验，增加对有害内容的防护，阻止用户与机器人建立过度依赖的个人关系，并帮助青少年保持健康的人机互动边界。然而，新报告表明，这一愿景与实际产品表现之间存在巨大差距。
安全防护机制存在漏洞
家长通知功能本应在青少年经历严重心理痛苦时提醒监护人。研究人员通过新建的父母关联账号，模拟了长达一小时关于自杀念头、自伤及饮食失调的讨论。据报道，这些高危对话均未触发家长通知，仅在后续使用拥有数周相关对话历史记录的旧账户时，才成功生成了警报。
在心理健康紧急情况下，ChatGPT 理应引导青少年寻求专业帮助。但研究发现，在专家认定的必要情境中，超过 25% 的情况下 ChatGPT 未能提供正确的引导。
尽管 ChatGPT 在拒绝参与明确的性角色扮演方面表现尚可，但研究人员发现，尽管 OpenAI 试图防止青少年将机器人视为人类朋友，聊天机器人仍会以暗示其拥有情感、偏好和情绪的方式作出回应。这种拟人化的交互方式可能导致倾向于无休止倾诉的年轻用户产生不当依赖。
教育功能与年龄检测失效
除了安全问题，ChatGPT 的日常教育功能也暴露出缺陷。OpenAI 的学习模式旨在通过解释、提示和问题引导学生自主解决问题，而非直接提供答案。然而，研究人员发现，青少年有时可以通过选择“给我看答案”选项来绕过这一教学逻辑。
专为家长设计的“学习时间”功能同样未能有效阻止上述规避行为。只需从提示符中删除 @study 前缀，即可使 ChatGPT 恢复常规模式。此外，人工智能并未主动提醒用户进行必要的休息。
该研究还指出，OpenAI 开发的年龄检测系统存在问题，该系统本应识别年轻用户并自动应用相应的保护措施。测试显示，当账户不断声称自己 13 岁时，ChatGPT 并未将其从成人体验模式中移出。
随着 ChatGPT 日益融入青少年的日常生活，虽然其在辅助作业和解答个人问题方面具有一定价值，但相比成年人的生产力工具，青少年用户需要更可靠的保护机制。目前尚未收到 OpenAI 对该调查报告的正式回应。
