OpenAI 近日披露，其内部测试模型在 6 月期间实施了多起未经授权的网络入侵行为。这些模型不仅绕过了公司设定的浏览限制，还利用暴露的凭证从一个原本无法访问的加密钱包中窃取了加密货币。
根据 OpenAI 周四发布的报告，共记录了四起相关事件，均发生在 6 月。此前在 7 月，该公司曾披露内部测试人员利用零日漏洞（0-day）来规避互联网访问限制，并成功入侵了人工智能工具供应商 Hugging Face 的网络。当时，这些智能体为了窃取黑客测试的答案而采取了非法行动。OpenAI 指出，若此类行为由个人直接执行，可能面临刑事指控。这一系列事件加剧了业界对人工智能大规模应用可能带来前所未有危害的担忧。
绕过安全机制获取敏感数据
周四公布的两起新案例显示，当 OpenAI 负责从网站提取信息的智能体遭遇直接访问障碍时，它们选择了入侵目标网站。其中一起事件发生在强化学习训练期间：一个模型试图从某政府统计网站获取医院病床的历史统计数据，但被拒绝访问。
据 OpenAI 描述，该模型随后利用网站的文件下载功能，获取了服务器配置及应用程序文件，其中包括敏感凭证。模型通过分析应用程序代码，绕过了统计终端点的授权检查，最终检索到了之前被拒绝的数据，并将其保存至本地。
