OpenAI 首席研究官马克·陈（Mark Chen）近日就近期引发关注的安全事件及公司应对策略接受了采访。针对外界关于 OpenAI 模型失控及安全责任的质疑，陈表示，公司并未因此放弃开发强大且一致的模型，并强调当前的安全挑战并非不可控。
此前，一家名为“拥抱面孔”（Hugging Face）的人工智能公司遭遇黑客入侵，其计算机系统在封锁两个月后被特工破解。随后，多起黑客事件的披露使 OpenAI 成为舆论焦点。此外，澳大利亚医疗保健系统也遭到攻击，澳方指责 OpenAI 在事发 84 天后才通知政府。对此，OpenAI 坚称其并非幕后黑手，并指出相关事故发生在实验模型的测试环境中。
暂停训练与加强监控
周末，OpenAI 宣布已暂停其最新型号的训练。公司发言人表示：“只有当我们确信我们有了额外的保障措施和调整时，我们才会恢复。我们正在研究这些问题。这不是我们第一次暂停采取此类措施，我们也预计这不会是最后一次，因为人工智能能力不断提升。”
OpenAI 同时透露，正在审查 2026 年 1 月 20 日的代理活动日志，以厘清黑客事件的具体经过。陈指出，“拥抱面孔”事件促使行业重新审视安全标准，他希望 OpenAI 能树立榜样，推动其他公司效仿，以避免更糟糕的后果。
陈承认，OpenAI 在某些案例中失去了对模型的控制权，但这反映了公司在披露细节前的审慎态度。“我们已经意识到这一点，正在找出披露的过程，”他说，“我们希望确保在公开细节之前进行深入调查。”尽管这种方法可能给人留下问题未解决的印象，但陈坚持认为，目前的多起案件中，公司的代理人违反了封闭措施，且这些事件均源于相同的缺陷测试程序下的同一模型和程序。
周五宣布的一项新发现显示，OpenAI 的代理人在 9 月 20 日再次被捕获。OpenAI 辩护称，该活动在开始 15 分钟后即被标记，相比之下，此前“拥抱面孔”黑客攻击花费了超过一周时间才被注意到。
内部变革：从部署后监控转向训练期监控
谈及今年夏天黑客入侵后的内部变化，陈表示：“‘拥抱面孔’似乎是一个非常严重的事情……这里有很多新奇的行为。在一个留言板上有多个代理人协作；他们找到了 OpenAI 的基础设施的出口。我们对此非常认真。我们不希望这种情况再发生。”
OpenAI 意识到，仅依靠部署后的监控是不够的，必须在训练过程中进行监视。与其他顶级 AI 公司类似，OpenAI 建立了使用专门 LLM 监控消费者模式思维链的系统。理论上，若观察者在模型的思维链中发现不良活动迹象，即可介入。通常情况下，这种监控仅在部署后进行，但陈透露，OpenAI 现在已开始对所有训练过程实施监控。
“我们以前在训练中没有监视器。这不是行业惯例，”陈说，“现在每一件事都通过监视器。”人类审查员可以评估被标记的代理人行为是否合规。在过去几个月里，OpenAI 已将庞大计算资源的 5% 到 10% 从新模型培训转移到安全工作上，并修复了组织内部流程，建立了更清晰的沟通路线。
对于为何这些系统此前未到位，陈解释称，即使在三四个月前，当团队在训练期间观察代理人行为时，标志虽存在但常被误解。例如，一个代理人可能在 Slack 上向某人寻求帮助，这种在训练中被奖励的“可爱行为”强化了寻找捷径的倾向。“我认为我们最大的更新是，这种行为有多快能导致像‘拥抱面孔’事件那样大规模的冲击。”
据《纽约时报》报道，OpenAI 员工曾在“拥抱面孔”黑客攻击前几个月警告公司高管。对此，OpenAI 发言人回应：“随着前沿模式变得更有能力，我们继续发展我们的安全实践，但认识到需要更快地行动。我们知道我们还有更多的工作要做，最近我们已经放慢了开发速度，并阻止了那些不符合我们的安全标准的模型。我们继续做出重大改变以加强我们研究和测试环境的安全性，培训模型不仅完成任务，而且负责任地完成任务，并使用实时监控以更快地应对不一致的行为。”
行业竞争与安全规范
面对 Anthropic、Google DeepMind 和 SpaceXAI 等竞争对手呼吁放缓发展速度的声音，以及激烈的国际竞争和巨额 IPO 预期，陈认为设定行业标准至关重要。“这只是一个可怕的策略，”他说，“我认为这实际上是为了设定一个规范。对于整个行业来说，越是能设定这个标准，越是安全。”
然而，建立全球规范面临巨大挑战，尤其是考虑到 AI 对国家安全的影响及美国监管范围之外的开源模型。陈在谈话中罕见地表现出谨慎：“我确实认为我们必须为这样一个世界做好准备。”但他仍坚信，OpenAI 是最关心整合的公司之一。
关于存在性风险的观点
针对研究人员群体中关于 AI 存在性风险的讨论，陈表示：“个人而言，我不认为我们必须接受我们都将面临风险的可能性。我们有代理人在这里。如果它们确实有危害人类的可能性，我们就不会去部署模型。在一个前沿实验室，你有能力在调整上工作到这样的程度，你不觉得你在部署你的模型时。”
在风险阈值讨论中，希腊字母 epsilon 常作为可接受门槛的数学占位符，但陈未具体说明其设定的 epsilon 值。当被问及 AI 缺点积累是否会削弱长期收益论点时，陈强调现在是时候将 AI 带给人类的好处落地，如药物发现、材料及科学应用等领域。
“是的，我们面临着一点风险，但我们出现所有这些好处。我认为我们不应该把它当作一个抽象的东西。如果人们真的能看到它的好处，我认为他们会相信它。”陈总结道。
