Anthropic 向警方报告用户日记，佛罗里达妇女面临重罪指控
近日，一名美国佛罗里达州妇女因将 Anthropic 旗下的人工智能聊天机器人 Claude 用作“私人日记”，而面临重罪指控。该事件再次凸显了在使用 AI 工具时需注意言论边界的问题。
据逮捕报告显示，来自佛罗里达州邦尼塔斯普林斯（Bonita Springs）的卡莉·米歇尔·赫勒（Kari Michelle Heller）于 9 月 26 日在 Claude 中输入了相关文本。她事后辩称，自己只是将该 AI 当作日记使用。然而，Claude 的安全系统自动标记了这些输入内容，并将其升级至人类审查员进行复核。
审查员认定其中的陈述构成了可信威胁，随即向执法部门进行了报告。Anthropic 方面表示，当公司认为披露信息对于防止死亡或严重身体伤害是必要时，可能会在有限的紧急情况下分享用户数据。
警方随后确认了赫勒的身份并前往其住所调查。在案件移交至李县治安官办公室（LCSO）情报侦探之前，赫勒已被拘留。根据佛罗里达州法律第 836.10 条，发送、发布或传输旨在杀害或伤害他人的书面或电子记录，且该沟通方式能被他人看到，即构成以书面暴力威胁的指控。
这一事件并非孤例，反映出 AI 公司在处理潜在安全风险时的谨慎态度。此前有报道称，OpenAI 及其 CEO Sam Altman 曾在不列颠哥伦比亚省面临诉讼。该案涉及一名名为 Jesse Van Rootselaar 的 18 岁前学生，她是枪击案的嫌疑人。据报道，OpenAI 的安全团队曾标记过她关于枪支暴力的对话内容，但并未通知警方。
此外，今年 6 月，佛罗里达州也曾起诉 OpenAI 和 Altman，声称 ChatGPT 导致了现实世界的伤害，其中包括 2025 年发生的一起佛罗里达州立大学枪击事件。
值得注意的是，AI 交互并非完全私密。上月的报道显示，负责审查 Microsoft Copilot 图像编辑器的人工承包商可以访问用户的提示词、上传的照片以及 AI 生成的编辑结果。文件指出，部分审查任务中包含色情、令人不安或潜在非法的内容，尽管审查员的职责主要是评估输出准确性而非主动标记违规内容，但这表明用户输入的数据可能经过人工审核环节。
