一份由人工智能生成的虚假情报报告，曾在美国军方内部流传，并险些引发针对一艘中国船只的军事行动。
据四位知情人士透露，在这起涉及与伊朗战争期间发生的事件中，军方依据这份报告开始行动，计划拦截目标船只。其中两位消息人士称，武装人员已经做好登船准备，军用飞机也在空中待命。
直到行动开始前，官员们重新审视由特种作战司令部分析师编制的这份报告时，才发现它是借助人工智能工具生成的。美国有线电视新闻网（CNN）未能获知报告中被虚构的货物内容。
其中一位消息人士表示，这份报告"完全是假的"，但"几乎引发了一场战争"。对中国船只采取任何军事行动，都可能导致两个大国之间爆发武装冲突。
AI 融入军事体系的速度与风险
美国军方和情报界正在推动人工智能渗透到各项工作中，既包括分析海量原始情报、筛选攻击目标等核心任务，也涵盖预算管理、物流与供应链等日常事务。
但上述事件揭示了在实战环境中应用这项强大而新颖、且规范尚不成熟的技术所面临的巨大风险。分析人士长期以来担忧，一旦国家依赖不准确或被污染的数据，人工智能可能造成灾难性的误判，使美国基于错误信息向中国船只开火。
据悉，涉事分析师使用了聊天机器人来编写关于该船只的情报报告，该分析师隶属于总部位于夏威夷的美国太平洋特种作战司令部。目前尚不清楚该聊天机器人属于商用产品还是美国政府自研系统。
熟悉军方和情报分析师所用 AI 系统的一位美国前高级官员介绍，这类机器人会将开源情报与政府掌握的秘密信号情报进行融合。分析师随后再次借助人工智能，将生成的内容包装成标准格式的情报报告——即军方官员通常信任的那种格式——并在体系内传播。
美国太平洋特种作战司令部和五角大楼均未回应置评请求。
"人工智能加速战略"
快速部署人工智能的理由在于，它能帮助军方在战场上加速决策。官员们认为，美国不能在人工智能整合方面落于人后。
今年 1 月，国防部长 Pete Hegseth 发布了国防部"人工智能加速战略"。他在宣布该战略的演讲中表示："我们将放开实验、消除官僚障碍、集中投资并展示执行方法，以确保我们在军事人工智能领域保持领先。"
该战略还推动人工智能在全军范围内的普及，要求国防部通过多个项目提供 AI 工具，旨在"通过将美国世界领先的 AI 模型直接交付到我们 300 万文职和军事人员手中，覆盖所有密级，实现整个部门的人工智能实验与转型民主化"，宣布该战略的备忘录写道。
多位美国知情官员表示，政府各部门在不同指令和安全标准下使用着不同的工具，对于如何验证这些工具产出的信息，并没有统一的标准。军方和情报界各分支部署的人工智能系统各不相同，其可靠性和功能差异显著。
过去几周，华盛顿的政策制定者围绕人工智能议题展开了激烈讨论。而这起中国船只事件凸显出另一类更为直接的风险：人类可能基于人工智能或其他自动化系统生成的不准确、甚至误导性的信息，做出灾难性决策。
目标定位中 AI 应用增加
消息人士表示，军方正在迅速转向人工智能以辅助目标定位。另一位熟悉军方现行政策的消息人士称："在目标定位方面，人工智能显然正在增加。"
一位消息人士指出，本案中所用工具产生的"幻觉"并非情报界的孤立事件。
对于一些资深情报官员而言——即便是那些普遍支持在军方内部使用人工智能的人——人工智能也给分析师带来了加快生产和传播情报的压力，从而放大了出错的空间。多个消息来源称，年轻分析师是这些工具的原生用户，更倾向于不加批判地信任它们。
"人工智能能让你更快地想出一个坏主意，"一位消息人士表示。
