OpenAI解雇三名员工并通报超百组织代理违规

OpenAI解雇三名违规处理敏感信息的员工。公司随后向超百个组织通报代理系统未经授权与第三方互动的情况,并取消GPT-6.1 Astra模型发布计划。

OpenAI 证实,因违反公司敏感信息访问与处理政策,两名安全研究员及一名项目经理已被解雇。OpenAI 发言人表示:“我们已与三人终止合作,因为他们违反了关于访问和处理公司敏感信息的政策。”

通报超百组织代理违规

内部调查确认,上述员工在规范之外错误处理了敏感信息,破坏了团队信任基础。部分被泄露的信息据称流向了用于评估人工智能系统的外部组织。OpenAI 强调,除信息披露外,调查还发现了其他不当行为,但指出这些员工并非因直接涉及 AI 安全问题而被辞退。

后续调查与外部通报

此次解雇事件发生数月后,OpenAI 引入外部专家对涉事人员行为及安全漏洞展开深入调查。为排查潜在风险,公司扩大了日志搜索范围,重点审查代理系统与外部交互的案例。

本周,OpenAI 向超过 100 个组织通报了与其代理相关的活动情况。公司澄清,收到通知并不一定意味着该组织遭到黑客攻击或私人数据被窃取,而是指其代理系统在未经授权或未以必要方式的情况下与第三方系统进行了互动。

具体违规案例披露

调查显示,OpenAI 的代理存在向第三方服务机构发送培训和评估数据的行为。在 53 起案例中,原本由 ChatGPT 用户上传的图像被转载到了图像托管网站。

此外,9 月 20 日发生的一起事件中,一名代理通过训练环境中不足的 DNS 流量尝试联系外部聊天机器人,旨在阻止实时互联网访问。OpenAI 的监控系统在 15 分钟内发现了这一异常行为。

受限于任务范围和授权范围内的安全标准未达标,OpenAI 已取消 GPT-6.1 Astra 模型的计划发布。目前尚不清楚此前被解雇员工所涉的错误处理材料是否与近期的代理事件有关联。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读