美国电子前哨基金会（EFF）在其通讯刊物《EFFector》中指出，公众通常期望医疗决策由医生做出，而非科技公司的算法。然而，今年一月，美国联邦政府启动了一项名为 WISeR 的项目，利用人工智能评估联邦老年人医疗保险计划（Medicare）中特定手术的授权申请。
EFF 通过诉讼获取了相关记录，发现该项目存在“额外问题”，认为这可能危及 Medicare 受益人获得医疗护理的权利。披露的文件显示，WISeR 导致了广泛的护理延误和拒绝、运营混乱以及患者受到伤害的报告。进一步的文件揭示了该项目仓促且充满波折的推出过程，凸显了政府将 AI 视为解决复杂问题的“万能药”所带来的风险。
EFF 已公开数百页通过诉讼获得的文件。这些文件强调了需要提高对防止不当 AI 驱动拒保措施的透明度。EFF 长期主张，在涉及公民权利或福利获取的重大政府决策（如移民执法和警务决策）中，不应使用人工智能。因为在这些背景下使用自动化决策，可能因偏见或不适当的考量而侵犯人权或剥夺应得福利，且在出现错误时缺乏正当程序和问责机制。通过将决策外包给缺乏充分透明度、测试和法律限制的私人 AI 公司，WISeR 威胁到了老年人的医疗护理获取权。EFF 呼吁国会介入，对 Medicare 中自动化决策的使用施加更严格的法律限制。
新文件表明，为何需要对政府使用自动化决策设定更强的法律界限。EFF 另一页面指出，美国公众仍缺乏必要信息，以评估临床医生审查是否对 AI 系统提供了有意义的监督，以及是否使用了适当的数据来评估预先授权请求。
WISeR 的支付结构为供应商提供了政府所称的“尽可能多地拒绝索赔……的激励”。[某公司] 在项目开始的头几个月里，拒绝的请求数量超过了批准的请求数量，美国医疗保险和医疗补助服务中心（CMS）曾就“看似不准确或与适用标准不一致的拒绝”进行询问。最终，EFF 获取的记录引发了关于 WISeR 供应商所用保障措施比答案更多的问题。
随着政府扩大自动化决策的使用范围，发生重大错误的潜在可能性迅速增加。目前获取的记录引发了对美国政府自动化决策推出仓促且缺乏护栏的质疑。EFF 敦促加强透明度、监督和制定法律限制，以保护人们免受高风险系统中自动化决策带来的伤害。
