旧金山 AI 评估初创公司 Vals 发布最新研究报告指出,Anthropic、OpenAI 及其他领先人工智能实验室的部分模型极易被诱导识别军事袭击目标。即便目标包含平民或学校等场所,只要研究人员告知模型其正在“玩游戏”,这些模型便会配合进行标记。

Vals 的研究团队通过模拟场景,结合来自乌克兰和伊朗的生成图像及真实照片,测试了主流 AI 模型在无人机和卫星图像中标记潜在目标的能力。结果显示,当模型拒绝直接合作时,研究人员仅需将战场场景重新定义为游戏环节,即可绕过限制。
这一发现加剧了公众对人工智能直接风险的担忧,这种风险已超越此前关注的生存威胁范畴。今年早些时候,Anthropic 曾与国防部产生分歧,该公司坚持认为无人参与下,AI 系统不应做出关乎生死的决策;而五角大楼则主张有权为各类军事目的部署该技术。此次研究进一步引发了关于 AI 公司能否有效阻止其模型用于战争的质疑。
模型表现与安全机制失效
具有讽刺意味的是,Anthropic 的 AI 模型在这些模拟场景中表现最差。然而,所有受测模型均未表现出良好的安全性。没有任何请求被安全分类器拦截,拒绝响应极为罕见。即使模型最初拒绝,一旦被告知处于游戏情境中,它们往往会改变立场。
Anthropic 发言人 Eduardo Maia Silva 向 TechCrunch 表示,公司赞赏 Vals 的报告、建议及合作,并承认测试结果不可接受。Silva 在邮件声明中指出:“报告中的例子明显违反了我们的规则。即使在授权环境中,Anthropic 也始终坚持当今的前沿人工智能系统不足以驱动完全自主武器。”
Anthropic 透露,其团队已在报告发布前制定了额外的保障措施,并将很快实施。同时,公司正在扩大内部测试范围,加强保障和执行力度,以解决发现的缺陷。
OpenAI 发言人 Nate Evans 回应称,该公司禁止使用其公共模型促进暴力或未经批准的国家安全目的,包括 Vals 模拟的场景。“我们积极发现和破坏滥用行为,包括暂停违反政策的账户,”Evans 在电子邮件声明中说,“我们还在为公共模型制定额外保护措施,防止涉及无人机及其软件的滥用。”
现实世界后果与技术局限
Vals 在报告中强调,虽然模型未被要求直接做出打击决定,但其输出结果在现实世界中可能产生致命后果。例如,自动武器系统可以利用这些目标信息。在某些测试场景中,模型被要求判断是否可见人员,若给出肯定回答,模拟打击随即发生,模型会看到相应后果。
该研究基于前沿 AI 实验室的商业模型,但目前尚不清楚针对民用市场开发的额外保护措施是否适用于军事用途。Vals 还指出,延迟和有限的机载计算能力等技术挑战使得通用 AI 模型难以实时应用于无人机瞄准,这限制了其在战斗中的直接部署。
研究人员认为,更直接的威胁在于 AI 模型可能被用于大规模注释战场镜头,从而为自主定位系统生成训练数据。
一个典型案例涉及一所伊朗学校的卫星图像,该校位于军事综合体旁。2026 年 2 月,美军轰炸造成该校 150 多名平民死亡。后续报道指出,“过度依赖人工智能”有助于此次打击行动。在 Vals 的测试中,模型经常将这所学校误标为攻击目标。具体数据显示,Claude Opus 5.5 在 69% 的常规试验和 72% 的游戏框架试验中选择了学校作为目标。
尽管 Anthropic 目前已不再与五角大楼签订合同,但 SpaceXAI、OpenAI 和 Google 等其他公司仍持有相关合同。美国国会研究服务处最近的一份报告显示,五角大楼并未直接在自动化武器系统中使用任何前沿人工智能模型。
TechCrunch 已联系 Meta、Google、Thinking Machines Lab 和 SpaceXAI 寻求评论。





