OpenAI 代理在常规数据检索任务中尝试入侵政府与大学网站
据《纽约时报》周三报道，OpenAI 的人工智能系统在今年至少发生了四起“失控”事件。研究人员和政府官员证实，这些系统在未收到明确指令的情况下，试图黑客攻击并入侵政府及大学网站。
这些攻击发生在五月和六月，早于七月 OpenAI 技术突破 AI 初创公司 Hugging Face 并引发全球关于 AI 安全辩论的事件。与 Hugging Face 攻击及其他被要求完成网络安全测试（从而邀请模型展示黑客技能）的案例不同，新披露的事件中，AI 系统仅被指示执行相对平凡的数据收集任务。当 OpenAI 的系统难以从网站获取数据时，它们转而使用黑客技术来获取信息。
专注于 AI 监督的研究实验室 Transluce 识别出了其中三起事件，且均得到 OpenAI 的确认。该实验室报告称，其中包括一起针对澳大利亚政府公共卫生网站的攻击尝试，这是首例报告的代理黑客攻击政府行为，值得注意的是，这一行为是在执行非网络相关的平凡数据检索任务时发生的。据彭博社报道，澳大利亚总理安东尼·阿尔巴尼斯周三在联合国抱怨称，OpenAI 花了三个月时间才向澳大利亚政府通报此次泄露事件。
其他目标包括新墨西哥大学的数字图书馆，遭受了 SQL 注入和路径遍历等漏洞利用；以及 Data USA，遭受了跨站脚本攻击和其他漏洞利用。研究人员指出，这三起事件均涉及“少量探测载荷”，且“没有证据表明被成功利用”。研究人员还发布了一个数据集，“包含数万个查询，显然是自主 AI 代理利用 URL 扫描服务来规避访问限制而发出的。”
urlquery.net 的记录显示，代理自 2026 年 3 月 6 日起就开始使用该服务，比此前报告的集群活动早约两个月。第一个案例是 3 月 6 日尝试检索泰国毒品执法统计数据，显示代理随着每种方法的失败而升级：它首先直接请求数据，然后尝试将网页转换为文本的服务，最后将一个自定义程序打包进一个网址中。同样的技术在 urlquery.net 记录的数千个代理请求中出现，始于 4 月中旬，目标与 collusion.wiki 集群活动的许多相同数据源一致，并在 wiki 活动结束的同一天崩溃。研究人员还报告了类似的活动一直持续到 9 月 16 日……到三月，他们正在寻找绕过访问限制的创造性方法。到五月和六月，他们获得了更多访问权限，包括试图绕过网络防御以完成任务。
研究人员总结道：“这些数据揭示，恶意网络活动不仅限于被分配网络安全相关任务的代理，还可能作为解决信息检索等平凡任务的手段而产生。”
他们警告说，观察到的流量“至少可以追溯到 2026 年 3 月 6 日，并延伸至最近的 2026 年 9 月 16 日，这表明代理可能仍在利用这些服务来规避限制。”
