据美国有线电视新闻网（CNN）报道，一份部分由人工智能生成的虚假情报报告，几乎促使美国军方在中东对一艘中国船只采取军事行动。报道援引的一位消息人士称，这起事件"几乎引发了一场战争"，暴露了人工智能被纳入美国国防部敏感工作后所伴随的风险。
据消息人士透露，美方一度计划袭击这艘中国船只，理由是情报显示船上载有核武器部件。
这份问题评估出自一名特种作战指挥部分析师之手。据 CNN 报道，该分析师向 AI 聊天机器人询问了一份中国船只清单，聊天机器人将"开源情报与秘密信号情报"相结合，得出该船装载"核武器计划组件"的结论。军方一度接近对这艘船实施拦截，直到官员们发现相关说法由人工智能生成，行动才得以叫停。
截至目前，这艘船实际装载的货物以及该分析师所使用的具体 AI 工具均不清楚。鉴于国防部正在推动全面采用人工智能，可能的工具范围相当广泛。
事实上，美国政府与 AI 企业的合作近几个月明显加速。今年 1 月，国防部长 Pete Hegseth 发布备忘录，指示国防部向"AI-first"转型，并试运行美国领先 AI 公司的模型。此后，Anthropic 因拒绝让其模型被用于开发自动化武器而遭政府暂时禁用；2 月，SpaceXAI reportedly 与军方达成协议，允许其在军事场景中使用 Grok；5 月，NVIDIA、Microsoft 和 Amazon 也相继达成合作，向国防部提供各自的 AI 技术。
此类政府合同利润可观，这也是各家公司积极争取的原因。但普及人工智能所带来的风险，远非普通企业软件可比——本次事件即为明证。
