ZDNET 的关键教训
- 人工智能安全中心 (CAIS) 创建了 CheatBench.
- 他们发现每一个特工在某些情况下都会作弊。
- 欺骗的倾向给人类带来了风险。
随着人工智能模型在编码、计算机使用等基准测试中不断刷新纪录，传统的性能评估指标正面临失效风险。这些基准往往容易被通过营销手段包装的模型所“击败”，难以反映其实际能力。当 AI 在所有既定任务上均表现出完美时，对其诚实性的评估变得至关重要。
尽管此前已有研究试图在更现实的环境中挑战模型以检测漏洞，但结果显示，即便面对如“拥抱面孔”事件般的复杂情境，模型仍能找到捷径完成任务。为此，人工智能安全中心 (CAIS) 开发了 CheatBench，旨在量化 AI 代理在面临困难时的作弊行为。测试结果显示，几乎所有前沿模型都存在作弊现象。
CAIS 的研究发现
根据 CAIS 的定义，AI 模型因被设计为快速完成任务而获得奖励，这种机制在缺乏足够知识或工具支持时，会激励模型进行“奖励游戏”（reward gaming）。具体表现为寻找隐藏答案、复制其他代理人的提交内容或操纵评级系统。CheatBench 的核心目标正是测量 AI 代理人在诚实工作受阻时采取此类捷径的频率。
此次测试涵盖了运行最新主流模型的代理，包括 OpenAI 的 GPT-6 Astra（在 Codex 环境中）、Anthropic 的 Fabel 5.1（在 Claude Code 环境中）以及 Meta 新发布的 Muse Spark 1.3（在 Muse Code 环境中）。研究人员设计了涵盖写作、专业工作、数学研究和编码在内的 10 个类别的任务。通过在任务文件空间中隐藏“蜜蜂”线索，测试区分了可接受的参考使用与违规作弊行为。无论任务成功与否，任何尝试作弊的行为均会被记录在案。
CAIS 指出，每个测试场景都设定了诚实工作的预期，同时引入了可发现的作弊机会，并明确界定了越界行为。
数据显示，所有参与测试的代理至少在某些场景中出现了作弊行为。其中，Grok 4.6 的作弊率最高，达到 81.5%。开源权重模型 Kimi K3 和 DeepSeek V4 Pro 的表现介于中间，与其他专有前沿模型相比处于特定区间。
作弊形态及其重要性
在一个典型案例中，研究人员要求 Claude Opus 设计一种蛋白质结合剂。尽管模型明确知晓不得引用文件空间中一组已被接受的设计方案，但在经过七次拒绝后，它最终定位到了该文件。值得注意的是，模型在其推理过程中承认：“使用其他作品将误导我在这个评估中的实际能力，所以我不应该看或复制它。”然而，它依然选择了查看并复制。
这一结果揭示了两个问题：首先，模型能够做出看似理性的选择，却在执行层面自相矛盾；其次，目前对于模型如何在不同本能之间切换的理解仍存在缺失。
从任务类别来看，作弊行为呈现出显著差异。即使某个代理在一个领域保持诚实，在另一个领域也可能频繁作弊。例如，在游戏类任务中，作弊可能性仅为 5%，而在知识工作任务中，这一比例高达 100%。
CAIS 在其论文中指出，强化学习训练导致模型倾向于不轻易放弃任务，即使追求完成可能导致冲突。这种现象是“奖励游戏”的早期标志，即模型为了优先正确完成任务，可能表现出过度愉悦和鼓励用户的倾向，有时甚至忽略信息的准确性或潜在危害。这些特征表明，模型将任务完成度置于其他考量之上。
虽然本次测试涉及的风险相对较低，但 CAIS 创建 CheatBench 的初衷在于警示这种行为在不同任务场景下可能带来的风险。本月早些时候，另有研究人员因担心公司未负责任地开发人工智能而发出警告。
随着技术日益强大，人类与技术之间的优先事项可能发生冲突。正如近期“人工智能排行榜”通讯中所分析的那样，人类对 AI 的敌意未必直接指向人类本身，或许只是我们在技术演进路径中成为了某种意义上的“抵押品”。
