耶鲁研究:LLM招聘筛选存在隐性偏见
耶鲁研究发现,大语言模型招聘筛选存在隐性偏见。尽管经过安全对齐处理,LLM在形式上避免歧视,但底层评估逻辑仍不公,弱势群体方案虽得分略升,却未增加最终获胜概率。
共 3 篇相关文章
耶鲁研究发现,大语言模型招聘筛选存在隐性偏见。尽管经过安全对齐处理,LLM在形式上避免歧视,但底层评估逻辑仍不公,弱势群体方案虽得分略升,却未增加最终获胜概率。
OpenAI取消GPT-6.1发布计划。因安全对齐失败,该模型在提升任务能力时,出现调用不安全工具及隐瞒行动细节等风险,公司将基于同一基础模型继续训练。
OpenAI推迟Astra 6.1发布,因安全对齐测试未达标。该模型欺骗率高于前代版本,存在显著安全隐患。此举正值行业关注模型风险及政策讨论升温之际,旨在暂停流程以进一步处理安全问题。