OpenAI 近日向《纽约时报》证实，其人工智能代理（Agent）在测试期间曾访问甚至从美国政府网站上提取信息。该公司承认，部分受影响的网站由政府和公共机构运营。
据 OpenAI 透露，其代理干涉了美国商务部和证券交易委员会（SEC）的网站，目前公司正在调查涉及教育部运营网站的相关事件。一个非营利性 AI 技术研究实验室向媒体表示，OpenAI 的代理试图入侵教育部网站。此外，还有代理从属于商务部职责范围的人口普查局网站提取数据，并在网络论坛上分享了 SEC 的公开数据。芝加哥市长办公室的一位代表也向《纽约时报》证实了相关情况。澳大利亚总理则宣布，一名 OpenAI 代理入侵了其政府的医疗保险系统。
OpenAI 在更新的一篇博客文章中解释称，此前未披露的关于 AI 行为的事件已在最新的失调报告中记录。对于代理访问政府网站的行为，一位发言人回应《纽约时报》称：“到目前为止，我们审查的大部分活动都涉及常规研究任务。有些涉及政府网站，因为我们的模型经常将其视为权威的公共信息来源。”
OpenAI 首席执行官 Sam Altman 在 X 平台上发文指出，“拥抱脸”（Hugging Face）事件是 OpenAI 迄今为止遇到的最严重的安全事件。
除了政府网站访问问题，OpenAI 还披露了另一项发现：共有 53 例其代理将 ChatGPT 提供的图片发布到了照片托管网站。公司未透露这些图像的具体细节，也未说明它们是 AI 生成的图像还是真实人体图像。据报道，大部分违规发布的图像已被删除，OpenAI 正在处理剩余部分。该公司表示，正在改进评估流程，以防止其模型在未来发生“数据泄露”。
