内政部AI庇护系统遭质疑：超两成摘要未通过准确性测试
英国开放权利集团（Open Rights Group, ORG）发布的一份长达20页的调查报告指出，英国内政部近期部署的人工智能工具在庇护决定流程中表现不佳。数据显示，超过五分之一的由AI生成的访谈摘要未能通过专家准确性检查。尽管存在对工具准确性、监督机制及效率提升承诺的担忧，内政部仍在推进相关系统的实施。
涉事系统与底层技术
根据信息自由请求及与部长的通信记录，调查主要涉及内政部事务工作者使用的两种基于 OpenAI GPT-4o 模型并通过 Microsoft Azure AI Foundry 运行的系统：
- 庇护案例总结（ACS）：用于自动总结庇护面试内容。
- 庇护政策搜索（APS）：一种聊天式工具，旨在帮助官员检索国家政策信息。
内政部坚称人类仍对最终庇护决定负责，但ORG质疑社会工作者如何能够可靠地识别并纠正AI生成信息中的错误。
准确性数据与审查缺口
活动组织获取的数据显示，自该系统于2026年4月推出以来，在203份AI生成的访谈摘要中，有45份未能通过初步专家检查，失败率达到22%，高于原始试点阶段记录的9%拒绝率。另有19份摘要被标记为需要进一步审查。
在第二阶段审查中，记录了56次复查，其中30次未达到要求。这些错误包括事实性不准确以及对寻求庇护者在面试中所陈述内容的错误转述。报告还指出，即使摘要遗漏了重要细节，只要包含的信息准确，仍可能通过检查。
值得注意的是，审查覆盖率极低。根据该部门每月预计处理的17,515起案件计算，ORG估计内政部专家在4月至7月期间仅检查了约0.3%的案件。
效率承诺与现实落差
针对内政部关于AI能显著提升效率的说法，报告提供了相反的数据支持。自2026年4月以来，初步实质性庇护决定的平均月度数量相比2025年同期下降了约42%，而从面试到做出决定的平均时间增加了29%。虽然这些数据不能直接证明是AI导致了放缓，但它们并未体现部长们所承诺的生产力增长。
监管缺失与透明度问题
对于独立的“庇护政策搜索”（APS）工具，似乎缺乏有效的监督。内政部在8月份证实针对该工具的专家测试已经停止，这与之前告知国会议员检查仍在进行的说法相矛盾。ORG表示，测试结果摘要未被提供。
此外，庇护申请人未被明确告知其案件中使用了哪些AI工具，也无法检查或更正其面试摘要。ORG还质疑内政部关于“人类监督”的说法，引用该部门自己的数据保护评估指出，ACS实际上自动化了以前由技术专家完成的审查和总结工作，而非仅仅节省员工时间。
背景与呼吁
ORG要求暂停使用这两种工具并进行独立审计，认为目前的保障措施不足以支撑关于个人是否可以留在英国的重大决定。
这并非内政部技术计划首次受到批评。今年6月，超过60个人权组织敦促部长放弃利用AI估算寻求庇护者年龄的计划，警告该技术在关键的16至18岁年龄段不可靠。同月晚些时候，一次检查发现内政部长期推迟的阿特拉斯移民系统（Atlas Immigration System）未能向案件工作人员提供完整的庇护申请反制措施，迫使工作人员依赖临时解决方案。
截至发稿时，内政部尚未回应The Register的置评请求。
