玛丽回忆起丈夫在家居交易（Homebase）购物时被面部识别系统错误指控偷窃的经历，称那一刻令人难以忍受。这场遭遇让她的丈夫感到“孤立无援”，甚至产生了“害怕进入商店”的心理阴影。事实上，他们当时仅仅是为了购买维生素而出门。
类似的情况并非个例。另一名妇女表示，其丈夫在被告知因前一周从巴德根斯（Budgens）偷走“大量肉类”而被禁止入内后，全家已连续数月未光顾该店。她描述道：“我的脑子一片混乱。”
面部识别本质上是一项高度个性化且涉及生物特征的技术，它通过扫描用户特征并处理生物识别数据来运作。然而，当这项技术出现误判时，其负面影响往往远超预期，且持续时间令人震惊。
冷漠的回应与责任真空
本周早些时候，在下议院一间狭小的会议室里，多名被面部识别技术错误指控偷窃的消费者与斯托克-安-特伦特南部选区的工党议员艾莉森·加德纳博士（Dr. Alison Gardner）会面，分享他们的经历。
此次活动由公民自由组织“大哥哥观察”（Big Brother Watch）主办，旨在为受害者提供向政治人物、媒体及相关公司表达不满的平台。更重要的是，活动试图厘清系统的工作原理、故障时的责任归属以及未来的改进方向。
“大哥哥观察”邀请了该技术背后的供应商 Facewatch 出席，同时也邀请了正在为其 200 家门店部署面部识别系统的塞恩斯伯里（Sainsbury's）代表参加。然而，这两家公司均未派员到场。
在听取具体案例细节时，加德纳博士提出疑问：“这是算法故障、店员诚实的错误，还是其他原因？”遗憾的是，现场无人能给出确切答案。
会场后方有人评论道：“你能感觉到人们的漠不关心。”
“大哥哥观察”高级法律与政策官贾斯琳·查格（Jaslin Chagger）随后告诉 TechRadar：“塞恩斯伯里乐于扫描顾客的脸部，却不愿面对那些受其技术伤害的人。”
所有被技术错误标记者的证词呈现出惊人的相似性：一次普通的购物活动突然演变成一场令人困惑且公开的羞辱。受访者普遍使用了“困惑”、“孤立”等词汇来形容当时的感受。
尽管情感创伤一致，但每个案件的具体情境却千差万别。有些人刚进店门就被拦截；有些人在收银台面对满篮商品时被质疑；还有人的脸部图像直接显示在头顶屏幕上。甚至有案例显示，一位妇女仅因系统错误识别了其身后的人而被拦下。
讨论中频繁出现关于算法偏见、训练数据配置不当以及纠错机制缺失的话题。整体氛围显示出严重的官僚疲劳感——购物者缺乏明确途径来洗清冤屈。“我不知道该向谁求助，”一名受害者说道。
公司的防御姿态
TechRadar 联系了文中提及的所有相关企业。布克集团（Booker Group，巴德根斯品牌所有者）、塞恩斯伯里和家居交易均拒绝或未能对记录发表评论。
Facewatch 表示已“认真考虑”邀请，但对活动的平衡性存在担忧。该公司称已向组织者及议会副主席提供了解释，并表示愿意在会议结束后回答问题。
针对系统出错时的责任归属问题，Facewatch 声称对其技术和流程负责，而零售商则需对其员工与客户的互动方式负责，尽管法律责任最终取决于具体事实。该公司还指出，发生误报时会启动“保护程序”，与零售商共同调查事件原委。
Facewatch 补充道：“我们反对利用个别事件营造普通购物者面临不成比例风险的印象。Facewatch 每天在英国成千上万家商店中谨慎且成功地运行。将特殊事件描述为日常操作的代表是误导性的，可能引发不必要的恐慌。”
官僚迷宫中的困境
当面部识别系统错误标记个人时，责任认定的模糊性加剧了公开羞辱带来的伤害。
TechRadar 本月早些时候走访伦敦南部一家塞恩斯伯里门店时发现，目前尚无可行的退出面部识别系统的方法。尽管入口处设有解释技术的二维码标志，但参观者反映这些标志提供的信息不足。
“大哥哥观察”协助受影响者依据英国《数据保护法》提交主体访问请求（SARs），以迫使公司披露持有的相关数据。然而，这一过程缓慢，要求受害者提供更多个人信息，且无法保证特定面孔的数据会被删除。
这种陷入官僚机构迷宫的状态被形容为卡夫卡式的噩梦。英国数据隐私监管机构信息专员办公室（ICO）承认证词的严重性，并表示希望尽快分享关于该技术商业用途的更多见解。但目前，混乱依然存在，错误根源仍未查明。
活动结束后，加德纳博士告诉 TechRadar，她对技术的“不良实施和缺乏治理”深感关切，并将就此问题联系部长及直接对接企业。她强调需要明确被错误指控者获得了何种赔偿，以及谁应承担最终责任。
在这些问题得到解答之前，缺乏透明度不仅是监管漏洞，更可能对公众产生寒蝉效应。如果一个人因误判而在数周后仍“害怕去商店”，这种恐惧可能会蔓延至更广泛的人群。
注：为保护受影响人群隐私，文中部分人名已做化名处理。
