2026 年 9 月 24 日
在纽约举行的联合国安理会紧急会议上，包括 OpenAI 和 Anthropic 在内的多家大型人工智能公司领导人向 15 个成员国发出警告，敦促在人工智能开发方面保持极端谨慎。与会高管强调，随着 AI 系统能力增强，行业需平衡技术创新与安全风险。
OpenAI 首席执行官 Sam Altman 在会上表示：“这个时刻需要极端谨慎。”他警告称，随着人工智能系统变得更具能力和自主性，其发展速度可能超越现有机构，并可能导致权力过度集中。Altman 指出，尽管技术带来的潜在收益巨大，但工业界不能因此接受过高的技术风险。他同时敦促各国政府在塑造技术未来时加强合作。
Anthropic 首席执行官达里奥·阿莫代 (Dario Amodei) 通过视频发表讲话，承诺公司将致力于提高防止技术滥用的能力。他表示：“我们将尽可能放慢速度，以确保我们发布的每一项人工智能技术实际上都是安全的。”阿莫代认为，如果管理不善，人工智能可能对整个人类构成风险。他补充道，随着模型日益强大，“将需要更严格的安全标准”，并承认历史上存在国家间竞争的时刻，当前亦属此类。
安全担忧与“中间路径”
此次会议背景是近期引发广泛关注的 AI 安全事件。9 月初，曾在 OpenAI 和 Anthropic 工作的研究员 Jacob Coxon 离开该行业，指责这两家公司在开发能够自我改进的人工智能模型的竞赛中危及生命。这一举动被视为对快速发展技术敲响警钟的一系列事件之一。
针对全球局势，Altman 和阿莫代等高管主张采取“中间道路”。他们既不希望陷入盲目乐观，也警告不要走向“末日主义”。拥抱面孔（Hugging Face）的首席执行官克莱门特·德朗格 (Clement Delangue) 指出，虽然开源社区常成为攻击目标，但世界比以往任何时候都更需要开源人工智能来保护自己免受攻击。
被誉为“人工智能之父”之一的加拿大计算机科学家 Yoshua Bengio 告诉安理会，越来越多的人对最近的进展感到正确担忧，并强调必须将这种关心转化为有成效的行动。
全球治理分歧：美国立场 vs. 英法倡议
两位科技高管的言论发表之际，美国总统特朗普正接待中国国家主席习近平参加人工智能峰会。此前，OpenAI 曾敦促美国领导全球努力制定人工智能标准，理由是其在技术前沿的地位。
然而，外交层面的监管努力面临阻力。英国总理安迪·伯纳姆 (Andy Burnham) 周二表示，英国将在 2027 年担任 G20 主席期间努力制定全球人工智能标准。法国外交部长让-诺埃尔·巴罗 (Jean-Noel Barrot) 同样敦促在联合国内部采取联合行动，为新时代制定规则。
与此相对，美国政府持不同立场。白宫科学技术政策办公室主任迈克尔·克拉西奥斯 (Michael Kratsios) 表示，快速的进步并不是暂停人工智能发展或限制新治理结构的理由。特朗普本人周二明确拒绝对人工智能进行国际监管，称此类提案是“全球主义计划”。
