英国金融行为管理局（FCA）近日明确表态，要求金融机构将人工智能系统的重大故障及“近乎失误”纳入事件报告范畴。随着自主系统在金融领域的渗透率不断提升，监管机构正试图通过强化问责机制，以应对由此带来的新型风险。
FCA 首席数据、信息和情报官杰西卡·鲁苏（Jessica Rusu）在周一举行的英国政策系列会议上指出，该机构致力于推动英国在金融服务领域安全采用人工智能的先例。她强调，赋予系统更高的自主权必须伴随明确的问责制度。
“管理不善的人工智能可能导致消费者受损、网络漏洞以及运营失败，且这些风险可能以更快的速度和更大的规模爆发。”鲁苏表示，“现行规则已要求企业报告重大事件，这一范围必须扩展至涵盖严重的 AI 故障和近失事故。正如人工智能部长所言，针对代理型人工智能的近失报告已上升为国家安全的优先事项，这也是监管工作的重中之重。”
数据显示，英国金融业表现强劲，2025年预计将为经济贡献 2236 亿英镑，占全国总产出的 8%，这一比例在经济合作与发展组织（OECD）成员国中位居第四。
此前一周，英国人工智能部长 Kanishka Narayan 透露，政府计划联合议会及技术专家，评估如何加强现有体制，以更好地抵御人工智能驱动的网络威胁及失控风险。Narayan 称：“这包括识别并报告严重事件及接近事故，旨在降低基础服务中由 AI 引发的风险，并确保对严重人工智能事件进行适当审查。”
独立非营利组织 Guidelight AI Standards 联合创始人兼首席科学家 Steven Adler 上周向国会议员建议，人工智能监管可借鉴航空业的经验。“航空业不仅关注严重的坠机事件，更重视从‘险些出事’的案例中吸取教训，以防止未来重演。”Adler 说道。
尽管呼声渐高，但英国政府尚未承诺将具体的 AI 监管措施写入《网络安全和弹性（网络和信息系统）法案》。科学、创新和技术部负责增长、科学和国际事务的总干事亚历山德拉·斯（Alexandra S.）上周告知议员，相关修正案目前仍在审议之中。
今年一月，下议院财政委员会曾呼吁金融监管机构开展压力测试，以确保企业具备应对人工智能驱动的市场冲击的能力。委员会同时指出，当人工智能系统产生有害或不公平结果时，必须建立清晰的问责机制。
