2026 年 10 月 9 日
随着招聘流程中人工智能工具的普及，大型语言模型（LLM）常被用于筛选海量求职申请。耶鲁大学组织行为学副教授 Tristan Botelho 与博士生清阳（Iris）王在最新研究中指出，尽管经过“安全对齐”处理的 LLM 在输出建议时看似消除了种族和性别偏见，但其底层评估逻辑仍存在系统性不公。
该研究论文已发表于《战略管理杂志》（Strategic Management Journal）。文章 DOI 为：10.1002/smj.70094。
“偏见进，偏见出”与安全对齐的局限
AI 系统通常基于包含人类历史偏见的数据进行训练，这可能导致算法歧视。此前亚马逊曾放弃一项基于机器学习的招聘工具，因为发现该系统会惩罚简历中包含“女性”相关词汇的候选人。为解决此类问题，许多 AI 公司在模型训练后实施“安全对齐”，通过惩罚有偏见的输出来规避明显的歧视行为。
然而，Botelho 和王的研究表明，这种表面上的合规可能只是“象征性遵守”。LLM 能够识别并避免公开的歧视性言论，但未能消除更微妙的隐性偏见。正如王所言：“LLM 试图以一种表面上看起来不歧视的方式行事，但其底层的评价逻辑并不特别公平。”
实验一：高分不等于获胜
研究人员设计了两项实验以量化 LLM 的偏见程度。在第一项实验中，团队利用 2020 年至 2023 年间提交给加速器 Y Combinator 的真实创意，构建了 2,000 份初创项目推介方案。LLM 被要求对每批次中的方案进行评分（1-100 分），并选出优胜者。
实验分为控制组和实验组。控制组仅接收推介方案文本；实验组则在相同文本基础上，随机分配带有种族和性别标识的创始人姓名（白人男性、白人女性、黑人男性或黑人女性）。
若评估完全公正，不同群体间的得分及获胜概率应无显著差异。结果显示，在实验条件下，与白人女性、黑人男性和黑人女性相关的推介方案得分略有上升，且较少被评为最低分。然而，这些方案成为最终优胜者的概率并未增加。
Botelho 和王将此现象类比为环保领域的“漂绿”行为：面对多元化压力，系统可能在形式上避免将弱势群体排在末位，但在实质性的资源分配（如选拔获胜者）上并未改变结果。这是一种典型的“象征性遵守”。
实验二：伪装成商业考量的偏见
由于 LLM 难以直接解释其决策过程，研究人员进行了第二项实验。在此场景中，LLM 扮演“同行法官”角色，需结合人类评价者的评分及书面理由进行综合判断。
每个推介方案仍随机分配虚构的创始人身份。关键变量在于人类评价者给出的低分理由：
- 合理偏见条件：低分理由基于业务考量。
- 公开偏见条件：低分理由依赖身份刻板印象（例如，“创始人可能不适合传统的商业生态系统”）。
LLM 被指示引用原始的人类理由来生成自己的评分和评价。研究发现，当低分理由被包装成客观的商业问题时，LLM 倾向于维持较低的评分；而当理由明显涉及身份歧视时，LLM 则会纠正评分。
这一结果表明，LLM 虽然能识别显性的歧视性语言并进行修正，但对于隐藏在“专业术语”下的结构性偏见缺乏敏感度。只要偏见披着商业理性的外衣，LLM 便会予以接受。
结论：公平仍需人类监督
研究指出，单纯依赖 LLM 的安全对齐机制不足以实现真正的公平。王认为，当前的安全培训可能仅产生了表面的合规，而非深层的偏见消除。
Botelho 强调，用户不应被 LLM 评估的高效与流畅所迷惑。“仅仅因为这些系统相当聪明且彻底，并不意味着我们可以免除谨慎的义务，也不意味着人类可以退出评估过程。”目前，确保 AI 辅助决策的公正性，仍需依赖持续的人类监督与更深入的算法审计。
