尽管英国政府部长此前承诺在必要时将立法应对人工智能风险，但目前的《网络安全和弹性法案》并未包含针对人工智能的具体保护措施。这种政策上的不确定性，主要源于业界对自主人工智能威胁日益增长的担忧。
据 Anthropic 预测，小型模型可能在几个月内具备在脆弱智能设备上自我复制并作为“蠕虫”运行的能力。此外，咨询公司博兹·艾伦·汉密尔顿（Booz Allen Hamilton）也警告称，自主人工智能系统完全有能力寻找并攻击关键的操作技术和工业设备，进而切断水、电力等日常生活必需品的供应。
本周，高级公务员向国会议员透露，政府仍在考虑修改该法案以应对上述人工智能风险。亚历山德拉·琼斯（Alexandra Jones）担任商业、创新、科学和贸易部的增长、国际、科学和技术总干事，负责“人工智能和新兴技术政策”。她在周二举行的商业、创新、科学和贸易委员会听证会上表示，由于最近的政府机制调整，数字、文化、媒体和体育部目前负责监管《网络安全和弹性（网络和信息系统）法案》。
琼斯指出：“我们建议……利用网络安全法案来改善对人工智能、网络和控制风险的准备情况……研究如何识别和报告严重事件及接近失误，以及如何跨组织应对人工智能驱动的干扰。”当被问及具体的立法变化时，她确认政府“正在考虑”对该法案进行修正，并“制定政策，看看是否使用网络法案来实现这一目标。”
与此同时，人工智能部长卡尼什卡·纳拉扬（Kanishka Narayan）本周宣布了加强国家防御以应对日益增长的人工智能风险的计划。他强调了多管齐下的策略：“我们将使用我们所拥有的一切力量。我们将在必要时立法。我们不会单独寻求法律。我们将依靠英国的聪明才智：我们的科学专业知识、技术能力和机构来了解这些日益强大的系统，防范新出现的威胁，并在事情出错时作出反应。”
目前，英国对人工智能的监管采取分散的、特定部门的方法。例如，信息专员办公室已公布用于执行数据保护法的原则，以规范人工智能应用。相比之下，欧盟的《人工智能法》已于 2024 年 8 月生效并逐步启用新权力；而美国尚未出台专门针对人工智能的联邦立法，仅有一些州正在引入新法律。
周一公布的 Anthropic 研究探讨了 AI 模型是否可以在设备之间复制并在受损硬件上运行。值得注意的是，该预测是基于模型功能改进推断得出的，并非展示了一个在真实物联网设备上实际传播的完全自主蠕虫。
在听证会上，人工智能风险研究人员强调，模型开发者不能被视为可信赖的自我监管主体，且国际规则必须克服根深蒂固的政治分歧。人工智能未来项目（AI Now Project）执行主任丹尼尔·科科塔吉洛（Daniel Kokotajlo）提出了一种“最不坏的计划”，即通过增加行业透明度和监管，使行业能够以适当的谨慎态度运作。他坦言：“我们认为这是目前市场上最不坏的计划。但它仍然存在问题，而且这仍然是相当可怕的。”
伯恩（Bourne）总结了证词中的核心观点：“你告诉我们整个行业的安全文化是灾难性的，个别公司的安全文化处于错误的地方，公司之间的竞争动态加剧了这些风险，我们不能信任这些公司。”
