据美国有线电视新闻网（CNN）报道，一起由人工智能生成错误情报引发的严重事件险些导致美军对中国船只采取军事行动。该事件发生在伊朗冲突期间，一名分析师利用聊天机器人处理情报时，系统生成了完全虚假的货物细节。在军方人员准备登船检查前，这一错误才被及时发现。
AI 辅助分析导致情报评估严重失实
- 聊天机器人生成关于中国船只的不实货物信息
- 武装部队在行动前未对信息来源进行充分核查
- 军用飞机已投入使用时，官员才发现报告存在重大错误
消息人士透露，这起事件的起因是一名情报分析师在处理船只清单信息时，使用聊天机器人辅助解读数据。该系统将公开资料与机密信号情报相结合，随后分析师再次利用人工智能工具，以标准情报格式整理调查结果。
然而，这份包含错误信息的评估报告在流传过程中未被及时验证。直到计划行动前夕，官员们才回过头来审查基础信息，发现报告中对货物的标识是完全错误的。一位消息人士形容该评估“完全是错误的”，另一位消息人士则向 CNN 表示，这一失误“几乎引发了一场战争”。
目前，聊天机器人错误识别的具体材料类型尚未公开，原始错误的关键细节也未披露。五角大楼及负责太平洋特种作战的军事司令部均拒绝就此事发表评论。
军方加速部署 AI 带来的验证挑战
这一事件发生在美国军方大力推广人工智能工具之际，这些工具正被应用于情报分析、行动规划、企业管理及战场决策等领域。
今年 1 月，国防部长 Pete Hegseth 宣布了一项新的人工智能战略，旨在加快军事任务和组织功能中的技术部署。该战略强调释放实验潜力、消除官僚障碍、集中投资并展示执行方法，以确保美国在军事人工智能领域保持领先地位。具体措施包括在情报工作、运营规划、企业功能中更广泛地访问生成式人工智能系统。
国防部随后披露，超过 130 万名员工使用了 GenAI.mil 平台，在五个月内产生了数以千万计的提示词交互。
分散的系统环境难以统一核查流程
此次事件暴露出的核心问题并非仅仅是聊天机器人的单次响应错误，而是整个情报验证链条的断裂。一旦不正确的信息进入正式评估文件，接收方必须能够确定其基础证据是否支持最终结论。
目前尚不清楚在评估到达准备海上作业的人员手中之前，应用了哪些具体的验证程序，也不清楚分析师是否意识到聊天机器人在报告流传前引入了错误解释。
据 CNN 报道，不同军事组织使用的人工智能系统各异，官员们描述的信息检查做法也各不相同。这种分散的环境使得建立统一的核查流程变得极其困难，难以对全军的每一个 AI 辅助情报产品实施有效控制。
虽然人工智能工具能显著提升军事分析的效率和便捷性，但其潜在的重大错误风险要求在作战决策前必须进行严格的人类验证。特别是在涉及对手国家的情报工作中，针对军舰的错误评估可能引发报复行动，加剧紧张局势，甚至导致更广泛的武装对抗或长期的政治军事冲突。
