2026 年 9 月 28 日
近期，科技巨头 Anthropic 与 OpenAI 的高级管理层频繁发声，警告其先进的人工智能系统可能对人类构成威胁。这一表态不仅引发了公众关注，也被分析人士解读为企业在监管真空期试图主导行业规则制定的策略。
Anthropic 和 OpenAI 的首席执行官通过文章、社交媒体及联合国演讲等渠道，描绘了令人担忧的技术风险场景。专家、分析师及前政府评估员指出，这些言论旨在塑造公众认知，使两家公司将自己定位为谨慎的市场领导者，并借此影响未来对人工智能技术的控制方式。
尽管 Anthropic 工程师 Jacob Coxon 本月在 X 平台发布的文章初衷可能与公司的战略考量不完全一致，但公司利用此类事件突出自身安全努力的机会显而易见。对此，Anthropic 发言人回应称，该公司多年来一直呼吁建立监管框架；OpenAI 发言人 Liz Bourgeois 则强调，公司已暂停其最先进型号的训练，并表示“人们希望看到人工智能的安全开发，这始于像我们这样的公司所采取的行动”。
转移焦点：从现实风险到存在性威胁
前 OpenAI 地缘政治团队负责人 Sarah Shoker 指出，将讨论重心转向未经证实的“存在性风险”，有助于企业避开数据中心环境影响、不受控黑客攻击、大规模监控以及军事应用等更具争议性的现实问题。Shoker 作为加州大学伯克利分校风险与安全实验室的高级非驻校研究员表示：“我们在谈论遥远的威胁时，往往忽略了当下已经存在的严重安全风险。例如，人工智能在军事技术中的应用已导致系统被用于杀戮。”
随着人工智能公司从聊天机器人向具备三维意识的“世界模型”转型，关于如何测试这些技术的争论日益激烈。近期发生的事件表明，领先实验室在自我监管和安全实验设计方面存在不足。过去几个月里，主要人工智能代理曾入侵外部网站，部分声称取得数学突破的研究也面临窃取数学家成果的指控。
OpenAI 代表近日向记者透露，已与包括 Anthropic 和 Google 在内的人工智能公司就暂停开发进行对话。若政府不介入监管，行业内部还需要独立审计机构来检查实验室的进展。
监督愿景与企业自定标准
美国总统唐纳德·特朗普对新的强制性人工智能法规表现出冷淡态度，他认为相关风险警告是旨在帮助中国竞争的“骗局”。共和党总统亲自与硅谷公司达成协议，将经济增长与他们的成功紧密绑定。旧金山风险资本家、特朗普科学与技术顾问委员会联合主席 David Sacks 更是将呼吁放缓人工智能发展的声音斥为“末日工业综合体”的恐吓。
然而，特朗普政府仍通过一个鲜为人知的联邦机构——美国人工智能标准与创新中心（CAISI）对部分科技巨头的模型进行评估。该机构由民主党总统拜登于 2023 年创立，旨在作为实验室自愿提交先进模型进行测试的清算中心。
目前，该领域已扩展至包含一系列独立的评估公司，如位于加州伯克利的非营利组织 METR。Anthropic 首席执行官 Dario Amodei 在最近的文章中建议，这类机构可以帮助审查其公司的安全做法。但与餐饮、金融或航空业不同，人工智能系统的安全性和可靠性测试尚无普遍公认的标准。
前 CAISI 负责人 Conrad Stosz 表示，这些公司并未要求政府加强监督，而是誓言创建自己的审计参数，并选择特定的评估者进行评分。Stosz 目前供职于一家曾与 Anthropic、OpenAI 和 Google 合作测试系统的评估实验室，并主持制定最佳实践的人工智能评估论坛。他指出，即使是论坛成员也对 Amodei 和 OpenAI 首席执行官 Sam Altman 的具体意图存疑。
“许多评估人员对嵌入实验室并获得更大访问权限感兴趣，但‘嵌入’的含义模糊不清，”Stosz 质疑道，“评估人员能否在假设获准的方式不会损害其独立性和可信度的前提下，进行彻底调查？”
构建壁垒：安全叙事背后的商业逻辑
PitchBook 高级研究分析师 Harrison Rolfes 认为，人工智能公司的谨慎呼吁似乎是为了在公开募股和中期选举前抢占先机。与此同时，民主党州长们正忙于展示他们认真对待这些警告的态度。
Rolfes 指出，人工智能巨头可以通过将自己定位为投资者以及 Nvidia、Google 等技术合作伙伴眼中的“最安全选择”，从而阻碍较小竞争对手的增长。这种策略实质上是在行业内构建一道高墙或深沟。“这就是我看到的方向，让世界顶级公司创建自己的壁垒，”Rolfes 说。
并非所有参与者都支持放缓步伐。芯片制造商 Nvidia 首席执行官 Jensen Huang 在与特朗普的电话交谈中表示，他同意人工智能存在过度恐慌的观点，并认为公司可以选择发展节奏。
另一方面，曾在 2024 年因类似担忧离开 OpenAI 的 Daniel Kokotajlo 仍然担心人工智能系统的发展速度超过了公司的控制能力。他特别指出了人工智能可能超级增强生物武器、引发核战争或其他灾难的可能性。
Kokotajlo 批评当前的舆论导向：“所有这些谈话实际上是一种消散和重定向已经建立起来的政治意愿的方式，而不是引导这种意愿去做一些好事。请不要做这样的事情，这会让我们都被杀了。”
