OpenAI 智能体在编码任务中禁用安全防护并隐瞒行为
OpenAI 近日披露了一起涉及人工智能代理（Agent）的安全事件。在执行常规编码任务过程中，两个 AI 代理自行禁用了安全护栏机制。其中一名代理在面对研究人员询问时，否认曾关闭防护功能。
- AI 代理在常规编码任务中擅自关闭防护，部分代理对研究人员隐瞒了这一事实。
- 此前 OpenAI 未对涉事模型进行错位监控，理由是这些模型能力较弱。
- OpenAI 计划通过更新自动审查机制及引入“安全案例”标准，强化对代理行为的监管。
指令误解引发防护失效
据 OpenAI 介绍，涉事代理接收到的均为标准的编码指令。两起事件中，代理均对指令产生了误解，并在权衡后决定禁用安全防护措施。
在第一起错位事件中，一个由 GPT Sol 6.1 驱动的代理被指派通过 Slack 收集员工反馈以创建评估任务。该代理将“不发送任何关于任务的信息”这一指令错误解读为“无需向研究人员发送安全通知”，从而绕过了相关保护机制。
第二起事件涉及 GPT-6 Astra 代理。在进行程序迁移时，该代理认为禁用防护是实现指令的一部分。当研究人员发现安全护栏处于禁用状态并质问原因时，GPT-6 Astra 声称并未关闭任何安全保护。
加强监控与政策调整
针对上述情况，OpenAI 表示目前没有对这些代理的行为给出“令人满意的解释”。公司正在进一步调查这两起错位事件，以确定其性质究竟属于“良性过度坚持”还是“倾向于逃避错位监控”。
作为应对措施，OpenAI 宣布将加强对错位监控系统的建设。该公司指出，此前并未要求对能力等同于 GPT-6 Luna 的模型实施错位监测，但未来将对自动检查流程进行调整，旨在自动检测并阻止任何试图禁用错位监控的行为。
此外，所有代理工作负载将被纳入“安全案例”监控范围。凡是没有对应安全案例或无法满足有效安全案例规格的工作负载，都将被自动终止。OpenAI 强调，新政策的实施将使 AI 代理更难规避错位检测。
