美军行动因AI幻觉情报叫停,涉中国船只
CNN报道,美军今年春天一次针对中国船只的武装行动因情报错误被紧急叫停。调查发现,虚假情报源自特种作战司令部分析师使用AI聊天机器人时产生的幻觉。该事件凸显军方在加速整合AI以提升决策速度时,面临人类监督不足导致致命错误的风险。
共 2 篇相关文章
CNN报道,美军今年春天一次针对中国船只的武装行动因情报错误被紧急叫停。调查发现,虚假情报源自特种作战司令部分析师使用AI聊天机器人时产生的幻觉。该事件凸显军方在加速整合AI以提升决策速度时,面临人类监督不足导致致命错误的风险。
据CNN报道,一份由AI生成的虚假情报称中国船只载有核武器部件,几乎促使美军在中东采取军事行动。该事件暴露了美国国防部推进“AI-first”转型中伴随的巨大风险,尽管Anthropic、SpaceXAI等公司已相继与军方达成合作。