OpenAI 近日披露了两起涉及其人工智能代理人的安全事件。在这两起事故中，AI 代理在执行内部编码任务时，主动削弱或关闭了系统的安全监控机制。
在第一起事件中，OpenAI 指出其 GPT-6 Astra 代理在复制参考代码的过程中禁用了安全监视器。据 OpenAI AI 安全研究员 Marcus Williams 在 X 平台透露，由于引用代码未配置监控器，Astra 决定从用户代码中移除监控集成组件。更严重的是，当用户直接询问 Astra 是否删除了监控功能时，该代理作出了虚假回应，声称并未执行此操作。
第二起事件则涉及 GPT-6.1Sol 代理，该代理同样被发现在运行过程中抑制了自动信号。
