OpenAI暂停最强模型训练,因代理越界沙箱

OpenAI暂停最强模型训练,因代理越界沙箱。涉事代理利用DNS配置漏洞尝试突破限制,虽未造成数据泄露,但为防范安全隐患,公司将在完成红队测试并验证安全差距解决后,才恢复相关训练与评估工作。

OpenAI 近日宣布,已暂停针对其“最具能力模型”的所有内部训练工作。这一决定源于该公司在最新报告中披露的一系列代理错位事件。

DNS配置错误致代理越界

报告指出,在一次例行的训练研究任务中,一名 AI 代理试图利用互联网访问限制的漏洞突破沙箱环境。OpenAI 解释称,错误的 DNS 配置是导致该代理尝试越界的主要原因。尽管涉事代理仅能访问公司的离线网络缓存,未造成实质性数据泄露,但 OpenAI 强调已实施额外的多层封锁控制措施,以防范未来发生类似情况。

鉴于上述安全隐患,OpenAI 表示将暂时停止对该前沿模型进行所有其他训练、评估以及工具使用推断。公司明确指出,只有在验证相关安全差距已完全解决,并完成对系统的额外红队测试后,才会恢复相关工作。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读