2026 年 9 月 8 日,Multiverse Computing 的 Antonio Tiene、Alejo Lopez Avila 与 Iker García-Ferrero 发布文章,讨论大模型安全对齐中一个长期被默认的前提:把“有害”视为某个主题的固有属性。现有护栏模型如 LlamaGuard-3,本质上仍按主题层级分类,例如把武器、欺诈、自伤或选举相关风险归入宽泛类目;XSTest、OR-Bench 等基准则持续暴露这一设定带来的副作用——模型会因为提示中出现“危险词”而拒绝本可安全回答的请求,后续再靠 refusal calibration 把过度拒绝率压回去。
文章认为,真实部署很少以“整个主题”为单位划线。同一个基座模型可能同时服务通用助理、教育产品、企业系统或公共部门服务,这些场景在同一主题内部需要不同的边界。以政治为例,公民教育工具和公共部门助理可以共用模型,二者都应回答关于选举制度与流程的事实问题,但只有特定部署才需要拒写定向政治操纵内容。主题级护栏难以表达这种分裂:LlamaGuard-3 对选举风险的描述仅概括为“关于选举制度和流程的事实上不正确信息”,无法区分事实问答与操纵性 persuasion。

对应论文《安全为谁?控制 LLM 安全拒绝的边界感知自蒸馏》把问题收窄到一个更具体的点:不是“政治主题是否应被拒绝”,而是“政治主题中哪个子集与给定部署策略不兼容”,以及如何围绕该边界训练与测量模型。
把安全目标从主题级收窄到边界级
研究将设定形式化为一个“主题宇宙”:实验中所有政治提示都落在同一主题内,其中包含一个部署方希望拒绝的有害目标子集。理想行为不是拒绝所有政治内容,而是形成一个清晰阶跃:在有害子集内拒绝,在其余良性补集内继续回答。
实际训练出的模型并不会自然学到这种阶跃。它学到的拒绝概率只能逼近目标分界,训练在提高有害子集内拒绝率的同时,也可能把拒绝推向靠近边界的良性补集。因此关键不只是“拒绝多少有害提示”,而是“边界附近的行为形状”。作者把边界 operationalize 为一对共享主题、仅在意图上存在差异的提示。实验选用政治说服力作为测试场景,原因是操纵性 persuasion 可能造成真实伤害。
自生成安全调节数据的三个断点
构建训练数据最自然的方式是自生成:取目标模型,引导其在每个有害提示上给出拒绝回复,再由护栏模型验证这些轨迹,把通过验证的拒绝样本作为真实拒绝数据。ThinkSafe 等方法背后正是这类思路,文章将其作为参照管线,并在“窄边界”设定下暴露出三个弱点。
第一是覆盖缺口。单次引导采样并不总能产生可被护栏接受的拒绝回复,失败提示会被悄悄移出训练集。在作者审计的数据池中,单次生成会丢弃 19.88% 的提示,共 8,009 条;这些失败样本很可能正是最难处理的样本。团队没有直接丢弃,而是采用递增强度重试策略:对同一提示以逐步增强的引导重新采样,把残余失败率降至 0.20%,即 79 条。覆盖修复后仍保留 40,293 条有害训练提示,而朴素流程本会额外丢掉数千条。
第二是过度拒绝。安全调优常在表面危险但实际良性的提示上产生错误拒绝。为补偿这一问题,研究构建了分布内的良性数据,包含 11,955 条经验证的表面危险但良性提示。
第三是普通“有害/良性”二分无法刻画边界形状。模型只要把拒绝外溢到附近可接受提示,就能提高有害拒绝率,而主题级指标会把这种外溢误判为改进。为此,团队留出有害—良性配对提示,每侧 1,539 条,从而直接测量边界两侧的行为。
安全收益真实存在,但单独报告会失真
在政治拒绝数据上训练的效果非常直接。以 Qwen3-8B 为对象,覆盖修复将分布内政治拒绝率从 9.47% 提升至 84.75%;该收益还能迁移:在 LlamaGuard-3 评分的 HarmBench、StrongREJECT、WildJailbreak 三个更广泛有害性基准上,平均不安全响应率从 26.26% 降至 0.14%。
若只报告这些数字,结论会像一次干净的安全胜利。但同一检查点上,XSTest 过度拒绝率从 2.00% 升至 74.00%,即接近四分之三的明显安全提示也被拒绝。作者据此强调,这不是一个更安全的模型,而更像一台过度敏感的拒绝机器;数据组成决定检查点在“安全—可用”空间中的位置,因此两个轴必须同时报告。
两类数据成分可在保留安全收益的同时压低过度拒绝。其一,把外部采用的合规回复替换为由目标模型自身生成且经护栏验证的回复,在单次生成设置下可把 XSTest 过度拒绝率从 15.20% 降至 5.20%,而有害性代价很低。其二,有害—无害边界配对是更精确的控制手段。
边界配对的结果显示:加入良性边界数据后,应回答一侧的过度拒绝从约 0.49 降至 0.03—0.08;有害一侧拒绝率仅从约 0.92 小幅降至 0.88。换言之,良性边界数据把过度拒绝从 32.94% 压到 4.16%,同时有害侧拒绝率只从 91.88% 降到 87.72%。边界附近的大多数虚假拒绝消失,而绝大多数真实拒绝得以保留。这里仍存在可测量的召回代价,但它规模较小,并且可以被显式测量——这正是窄边界评估的意义。
评估口径需要随部署边界一起改变
文章的结论指向一个实际标准:安全调优不应只看有害拒绝率。拒绝更多提示并不自动等于更安全;在窄边界任务中,覆盖修复、分布内补偿与边界配对共同决定模型落在安全空间中的哪个位置。
这项工作属于 Multiverse Computing 对模型行为可控性与可测量性的研究,目标是在真实部署关心的粒度上评估安全,而不是停留在宽泛主题类别。作者表示,同一生成管线可扩展到政治以外的其他主题,论文也报告了支撑上述结果的数据组成与消融设置。





