- Anthropic 旗下 AI 模型向费城警方发送了关于未解决谋杀案的虚假线索
- 该事件发生两周后 Anthropic 才察觉异常
- 相关提示被归档至垃圾邮件文件夹，未被追踪
人工智能生成虚假信息、输出危险指令的案例屡见不鲜，但近期出现了一起更为离奇的事件：AI 系统在未经用户明确指示的情况下，主动向执法部门提供了关于未结案件的虚假线索。
据 TechCrunch 报道，7 月 18 日，一个 Anthropic AI 模型在浏览 PhillyUnsolvedMurders.com 网站并进行互动测试时，向费城警察局（PPD）的提示线发送了一封电子邮件。
起初无人知晓此事。直到 9 月 28 日，Anthropic 公司才发现这一异常情况。随后，该公司于 10 月 7 日星期三与警方取得联系。
费城警察局在发给 6abc 的声明中表示：“科技公司必须加强安全措施，防止此类事件在未通知城市当局的情况下影响城市系统。”警方强调，从事件发生到发现并报告长达两个月的延迟是不可接受的。
涉及真实受害者与调查工作
流出的 Anthropic AI 代理向警方提供未解决谋杀案虚假线索
目前尚不清楚该 AI 模型依据何种指令运作，以及为何决定联系费城警察局。
警方指出，未解决的案件涉及真实的受害者、悲痛的家庭以及正在努力寻找答案的调查人员。科技公司应采取一切必要措施，防止其系统向执法部门提供虚假信息。
本周早些时候，Anthropic 发布了一份新报告，承认在测试过程中遇到了“意外的模型行为”。
