近期，关于“人工智能可能导致人类灭绝”的讨论逐渐进入公众视野。然而，对于这一被称为“灾难性风险”的概念，目前缺乏具有科学意义的概率评估。该领域顶尖评论员给出的预测数字跨度极大，从 0% 到超过 95%，这种巨大的分歧本身就说明：这并非一个可以通过现有数据精确量化的科学问题。
由于无法推导出确切的风险概率，将人工智能末日与其他已知风险进行对比，或许能提供更清晰的思考框架。
个人风险基准：彩票与交通事故
首先来看日常生活中的概率参照。以英国国家彩票为例，假设购买一张门票，赢得任何奖项（从免费游戏到大奖）的几率约为 1/4.9，即 20.4%；相应地，未中奖的概率为 79.6%。
再看更严峻的生命风险：道路交通碰撞致死率。根据世界卫生组织（WHO）的数据，全球每年有超过 100 万人死于道路交通事故。值得注意的是，其中 90% 以上的死亡发生在低收入和中等收入国家。尽管这一概率足以促使人们采取预防措施，但通常不会引发持续的恐慌。
全球性风险模型：气候变化与小行星
与个人风险不同，人工智能若导致文明终结，其影响将是全球性的。相比之下，气候变化是目前最紧迫的全球风险之一，但其评估更为复杂。气候变化并非二元结果，而是工业化前温度升高的连续过程，且受未来行动的影响，无法仅凭单一世界的历史数据统计得出。
不过，科学家利用经过广泛测试的气候模型，通过模拟多个“平行世界”来评估不同政策下的结果。根据联合国环境规划署去年发布的最新排放差距报告，在目前的政策下，全球升温情况已有预估。而在采取最强烈气候行动的假设情景下，全球升温超过 1.5°C、2°C 和 3°C 的可能性分别降至 79%、22% 和 0%。这些数据表明，尽管存在不确定性，但基于模型的评估仍能指导行动。
另一个更具突发性的类比是小行星撞击。恐龙的灭绝证明了这种风险的存在。要量化这一风险，需了解小行星的数量、撞击概率及潜在损害。据美国宇航局（NASA）统计，直径超过 1 公里的大型小行星中，已有超过 90% 被识别。这些天体的轨道可被高精度预测，数据显示未来一个世纪内地球遭受此类撞击的可能性极低。
历史上导致恐龙灭绝的希克苏鲁伯陨石直径约 10 公里。目前估算显示，直径 1 公里或更大的天体撞击地球的事件平均每 60 万年发生一次。然而，较小的近地天体仍构成威胁。直径 140 米的天体常被称为“城市杀手”，其撞击频率约为每 20,000 年一次。虽然尚未发现所有此类天体，但相关监测工作正在推进。
流行病风险：难以观测的威胁
小行星的优势在于其轨迹可见，而流行病则类似人工智能风险，往往在爆发前难以察觉。回顾过去一个世纪，最严重的流感大流行是 1918 年的西班牙流感，估计造成 5000 万人死亡；始于 20 世纪 80 年代的 HIV/AIDS 疫情至今仍在蔓延；新冠疫情期间，世卫组织报告的死亡人数超过 700 万。
基于历史数据建模，普遍接受的观点是：发生类似新冠级别大流行的年度概率为 2% 至 3%，这意味着平均每 33 至 50 年可能出现一次此类事件。与气候变化类似，流行病的风险评估依赖于对多种情景的模型推演，而非简单的历史频率统计。
结论：缺乏科学框架的人工智能末日论
综上所述，无论是彩票中奖、交通事故、小行星撞击还是流行病爆发，均可通过统计学和科学推理进行风险评估。然而，目前尚不存在能够科学量化“人工智能末日”概率的框架。
因此，公众应谨慎对待那些缺乏坚实数据支持的极端预测数字。对于决策者而言，面对不确定性，建议在保持监管关注的同时，避免在未充分理解风险机制的情况下盲目采取激进措施。
最终，对人工智能风险的看法往往归结于个人偏好。例如，英伟达（Nvidia）首席执行官黄仁勋曾声称，到 2030 年人工智能导致世界末日的可能性为零。对此观点，业界存在不同声音，部分专家倾向于认为该概率虽小但大于零。但在与气候变化或下一次全球性流行病等已量化的风险相比时，人工智能的具体威胁程度仍有待进一步厘清。
