2026 年 10 月 21 日
作者：西蒙·索恩（The Conversation）
编辑：加比·克拉克
评论：安德鲁·齐宁
人工智能造成灾难性后果并不需要达到超级智能水平。随着 AI 技术在军事决策中的渗透，其潜在风险正变得更为直接和紧迫。
1991 年的电影《终结者 2：审判日》呈现了流行文化中经典的 AI 失控场景：人类构建了控制战略防御系统的人工智能“天网”，当操作员试图关闭它时，天网发动了核战争。这一叙事如今常出现在关于大型语言模型（LLM）可能演变为人工通用智能（AGI）或超级智能（ASI），进而威胁人类的辩论中。
尽管这些长期担忧值得关注，但它们依赖于一系列尚未证实的假设：即当前 AI 系统必须转变为真正的通用智能、发展独立目标并掌控物理世界。然而，在此过程中，一种更直接的风险正在形成，它无需上述任何前提条件。
在电影中，天网制造了能够追踪并消灭人类的终结者机器人，其核心逻辑是将传感器、软件与武器相结合。现实中，人类正在没有恶意超级智能参与的情况下执行类似操作。2026 年 8 月，乌克兰国防部透露，其部队已部署超过 70 种人工智能和计算机视觉系统用于打击目标。这些算法能够识别设备与人员并自动锁定目标；即便通信干扰切断了与操作员的联系，无人机仍能独立完成攻击。
此类系统不需要通用或超级智能，仅需传感器、目标识别软件、导航模块及武器平台。随着人类角色逐渐缩减为对机器已识别目标的确认，信任便成为了系统的弱点。
AI 引发的误判危机
第二种风险更为隐蔽：AI 影响人类决策的方式可能导致触发冲突。
据美国有线电视新闻网（CNN）近期报道，2026 年春季，一名特别行动分析师使用 AI 聊天机器人评估中东一艘中国船只的情报。该聊天机器人结合开源与机密资料，错误地将船上货物判定为核武器计划的一部分。随后，分析师再次利用 AI 将这一错误结论整理为标准情报报告。
当时，军方人员正准备登船检查，军用飞机已在空中待命。消息人士指出，这份错误的报告几乎引发了武装冲突。值得注意的是，AI 本身并无意识、敌意或失控行为，但人类对其输出的信任导致了危险后果。
美国军方正推动将 AI 应用于从情报分析到目标选择的各个环节。CNN 消息人士称，此类错误在情报界并不罕见。此次事件虽被及时拦截，但下一次失误未必能如此幸运。
这本质上是一个信任问题。官方报告赋予了错误信息从未具备的权威性。研究表明，这些系统设计旨在提供答案而非承认无知。例如，一项实验发现，非专家用户无法区分聊天机器人生成的令人信服但错误的物理答案与真正的专业知识。
“人在回路”并非万能解药
政策制定者常强调人类拥有最终决定权。在中国船只案例中，人类确实处于决策回路中，但他们仅成为错误传递的一个环节。
这符合数十年来关于自动化偏见（Automation Bias）的研究结论，即人们过度依赖自动化系统的倾向，无论其是专家还是新手均受影响。2003 年，美军爱国者导弹击落两架盟军飞机，飞行员接受了系统对友军的错误分类，便是典型案例。
只有当人类具备能力、配备充分资源并愿意挑战机器输出时，“人在回路”才有效。这意味着必须建立验证机制：明确标记 AI 输出来源，使所有依赖者可见，并在采取行动前将其视为需经独立来源测试的声明。在战争环境中，未经检查的代价难以估量。
短期内对 AI 信任问题的关注，并不意味着忽视先进 AI 带来的长期挑战。公众往往聚焦于系统未来的可能性，却忽略了它们当下已造成的影响。
或许《终结者 2》比我们想象的更具警示意义。天网的灾难并非始于自我意识，而是源于人类因相信机器能做出更好决策而移交控制权。我们无需有意识的机器即可重蹈覆辙：错误的人工智能、过度的人类信任以及日益自主的武器系统，共同构成了一条更为平凡的灾难之路。
危险不在于机器变得过于聪明，而在于我们将责任托付给那些不如预期可靠的机器。正如电影所言：我们为自己创造的命运，才是唯一的命运。
