OpenAI解雇三名安全研究员,双方就违规指控各执一词

OpenAI解雇三名安全研究员,双方各执一词。公司指控其违规分享敏感信息,三人否认并称此举引发内部寒蝉效应。尽管备忘录强调非报复性裁员,但争议仍聚焦于安全沟通边界与企业文化转变。

上周,OpenAI 解雇了三名安全研究人员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni。针对公司提出的“滥用研究信息”指控,三人于周四发表公开信予以否认,并致函 OpenAI 的安全与安全委员会、安全咨询小组及任务咨询委员会。

三方各执一词:内部调查vs公开否认

在信中,研究人员表达了对前同事因担心类似遭遇而不敢发声或开展工作的忧虑。他们指出,此前这种担忧尚未成为 OpenAI 工作环境的常态,但此次事件可能改变这一局面。

争议焦点:信息共享与政策违规

OpenAI 表示,这三名员工被解雇是因为违反了公司政策,具体行为涉及“获取和处理公司敏感信息”。据报道,他们在与第三方 AI 安全组织分享机密信息后遭到辞退。OpenAI 发言人向 TechCrunch 透露,内部调查发现了“明显违反处理错误研究信息政策”的“不当行为模式”,其范围超出了与外部 AI 评估小组正常分享信息的界限。

然而,三位研究人员在公开信中反驳称,他们的行动旨在应对日益严重的 AI 可监控性风险。Balesni 强调,解决此类问题必须通过与外部专家的广泛沟通才能成功,且他在整个过程中得到了 OpenAI 董事会成员和高管的协调与支持。Korbak 则认为,在与外部安全评估人员建立信任的过程中,他的行为符合当时的公司规范和政策范围。

此外,这封信还澄清了关于泄露 OpenAI 最新模型中不可监控架构细节给《The Information》一事的传闻。三人否认参与该泄密事件,也否认进行了超出职责范围的外部接触。

个人陈述与文化冲突

Jasmine Wang 提供了具体的被解雇理由细节。她解释称,OpenAI 告知她因访问了一位高管的电子邮件而被解雇。Wang 描述道:“OpenAI 曾委托我进行招聘工作。当不再需要时,我要求 IT 部门删除相关邮件。由于收件箱在我的手机邮件应用中以难以辨别的方式合并,我不小心打开了一封敏感电子邮件。我在几分钟内就告知了该高管,整个过程并无隐瞒。”

研究人员认为,这次突然且执行方式严厉的解雇,标志着 OpenAI 文化的更广泛转变——从鼓励员工提出安全问题和公开异议,转向一种让安全研究人员感到恐惧的环境。他们警告称,如果最接近风险的人害怕说话,就无法安全地构建 AGI(通用人工智能)。

OpenAI 回应与后续影响

OpenAI 未对公开信做出正式官方回应,但向 TechCrunch 提供了一份归因于研究领导人的内部备忘录。备忘录称赞了这三位研究人员对 AI 安全的贡献,并明确否认解雇决定是出于报复目的。“我想非常清楚地说,这些决定不是为了惩罚提出安全问题或发言的员工。我们一直鼓励这样做,并将继续如此。我们不会因为提出问题而解雇员工。”备忘录写道。

尽管 OpenAI 声称同意研究人员关于保持前沿模型可监控性及支持开放对话的建议,但该公司并未直接回答 TechCrunch 关于具体违反哪些政策、解雇的具体情境,以及公司如何保护那些与外部评估人员合作的员工的提问。

此次解雇事件发生在 OpenAI 面临涉及流式代理及其模型泄露等安全事件审查的背景下,引发了外界对其处理内部举报和外部合作方式的猜测。值得注意的是,这并非首次有研究人员在可疑情况下离开 OpenAI。

文章最后提到,根据备忘录内容,OpenAI 已同意采纳研究人员提出的部分建议,包括将第三方安全审计人员纳入组织流程,并维持安全研究人员与安全生态系统其他部门之间开放透明的对话文化。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读