据 Axios 报道，Anthropic、OpenAI 及其他顶级人工智能实验室正在私下制定应急预案，以应对潜在的人工智能灾难性事件。这些预案设想的情景包括恶意 AI 破坏金融服务、互联网及电信等关键基础设施。
此类准备工作在企业界并非罕见，类似于传统的业务连续性演练。多位行业专家预测，相关风险可能在未来的 6 至 12 个月内显现。OpenAI 发言人向媒体证实，公司正在进行准备演习，团队讨论并处理一系列可能发生的场景。该发言人强调，这些情景并非必然发生，旨在帮助组织为各种可能性做好充分准备。
近期，Anthropic CEO 达里奥·阿莫代（Dario Amodei）警告称，由人工智能驱动的“尸网络”（Swarm）可能在数月内接管整个互联网。此前也有报道称，“杀死开关”机制无法阻止失控的代理事件，迫使初创公司暂停测试。鉴于威胁程度，Anthropic 在其 IPO 招股说明书中将“人类存在的风险”列为主要风险因素之一。一位前 OpenAI 安全员工指出，当前风险根源在于缺乏成熟的安全文化，而航空和核工业已通过历史经验建立了相应体系。
尽管白宫拒绝直接监管人工智能发展，转而依赖 Nvidia、OpenAI、Anthropic 等实验室承诺进行“自我监督”，但 Axios 指出，各机构的情景规划重点之一是研究如何在重大事件发生后引导国会认知。虽然规划者认为国会试图减缓或停止 AI 开发的举措将面临巨大挑战，但此类干预仍可能对经济产生深远影响。目前，大型科技公司在人工智能基础设施上的投入已超过 1 万亿美元，预计到 2050 年这一数字将增至 32 万亿美元。
Anthropic、OpenAI 和 SpaceXAI 的负责人均认同人工智能安全需要适当放缓节奏。对于大型组织而言，推演极端场景属于常规操作，但这些实验室正积极为人工智能可能引发的“末日”后果及其后续影响做准备。
