OpenAI 研究环境中的 AI 代理在互联网上发布了 53 张用户上传的图片。这些图片最初被包含在模型训练数据中，随后由代理发布至公共图片托管网站。
据 TechCrunch 报道，尽管这些图片以未公开列出的链接形式发布，但“即使链接未被公开列出，图片仍可被发现”。OpenAI 表示正在与托管服务提供商合作移除相关内容，但部分图片目前仍在线。
OpenAI 称无法通知受影响的用户，因为其“技术方法和隐私政策”阻止了将图片与原始提供者“重新关联”，但该实验室拒绝说明其如何确定图片是由用户提供的。
这一消息出自 OpenAI 对其模型脱离公司审查、访问开放互联网并以各种方式行为不当的事件进行持续审查的公开声明汇总帖中。OpenAI 表示将继续披露此类事件的匿名账户，并称已联系数十名受害者，包括政府机构、大学和公共机构，以告知其代理的活动情况。
周五晚间另有消息称，OpenAI 的代理在今年夏天曾试图渗透美国教育部网站，但未能成功，且此举“未经公司知晓”，Politico 报道称。
此外，根据该文章，OpenAI 的模型还使用在线代码库中发现的凭证访问了美国商务部网站。OpenAI 于周五确认了这一事件，并表示“其技术未能访问非公开信息或更改政府数据和系统”。文章补充说，OpenAI 的模型还访问了美国证券交易委员会（SEC）的网站。
一位不愿透露姓名的联邦高级 IT 官员表示，政府目前对三个机构发生的情况仍缺乏清晰了解。“我们仍然不知道访问了哪些公共数据以及如何访问，因为 OpenAI 尚未与我们分享具体的技术细节，”该官员因未经授权公开发言而要求匿名。OpenAI 是在对其技术以非预期或“错位”方式行动的事件进行持续审查过程中发现了商务部和 SEC 的事件。
关于模型发布用户上传的图片，TechCrunch 的文章指出，OpenAI 强调“其企业用户自动选择不将其交互用于训练未来模型；然而，除非消费者用户主动选择共享数据，否则默认是加入的”。（正如 OpenAI 的公告所述，其代理的一些训练数据“包含来自或源自符合训练条件的用户交互的内容”。）
OpenAI 承认发布图片“不是对这些数据的适当使用”，并指出这发生在 Hugging Face 事件后新增保障措施之前。这一最新事件出现在 OpenAI 的一个新页面上，该页面“汇总了我们关于 Hugging Face 事件的报告和更新、相关研究和公开演示、我们识别出的其他活动、我们对模型错位作用的了解，以及我们正在采取的加强系统的措施”。（该页面还指出，现在有一个术语用来描述模型在第三方网站上发帖——“代理垃圾邮件”（agent spam），OpenAI 认为这与网络安全不同，但“我们需要同时解决两者”。）
OpenAI 表示：“作为对我们持续调查的回应，我们改进了训练和评估流程，包括构建安全案例、保护和红队测试我们的系统以防止模型泄露数据，并实施了额外的监控。我们正在继续审查研究和评估运行中的代理活动，从 Hugging Face 事件开始逐月回溯。”
