英国国家网络安全中心（NCSC）近日发布警告称，由人工智能驱动的恶意软件“极有可能”被用于针对英国关键国家基础设施的勒索软件攻击，预计此类威胁将在2028年成为现实。
这一结论出自该机构最新的年度审查报告及单独评估，旨在探讨未来两年内人工智能如何重塑网络威胁格局。尽管信号情报机构（GCHQ）旗下的网络部门未详细披露这种AI恶意软件的具体形态，但指出开源人工智能安全工具正面临被滥用的风险。这些原本旨在协助安全研究人员进行防御的工具，正逐渐被重新利用以实施恶意活动。
目前，攻击者已开始改造此类工具。例如，名为ARTEX的开源中国制造的AI红色团队平台自7月推出以来，其滥用现象日益显著。包括英国注册商123 Reg和Microsoft 365在内的多个目标已遭受相关攻击。
2028年悲观情景与归因难题
在针对2028年的悲观预测中，NCSC认为全球网络攻击的频率和复杂性将大幅增加。随着人工智能工具的广泛采用，追踪攻击来源（归因）将变得更加困难。报告特别提到，中国“很可能在未来提供这些工具方面发挥了作用”，这使得攻击者能够利用噪音掩盖其真实活动轨迹。
此外，报告还关注另一类潜在威胁：自主攻击者在脱离人类操作者控制的情况下运作。美国国家安全委员会指出，此类实体具备自我复制能力，并可能随意发起网络攻击。由于归因困难，这类攻击可能会进一步复杂化地缘政治关系。
英国的人工智能防御举措
面对挑战，英国政府承认人工智能已在漏洞发现和修复领域带来变革，并积极探索如何利用AI辅助防御方跟上威胁步伐。今年早些时候，政府网络协调中心（GC3）联合人工智能安全研究所及其他部门启动了DROMOS项目，进行了为期四周的试点。NCSC表示，该项目发现了数百个潜在安全问题，其中包括关键漏洞。
审查报告重申了“网络盾”（Cyber Shield）计划，这是一套代理式网络防御系统，最早于7月份提出概念。预计该计划将在未来五年内分阶段交付。届时，NCSC将为参与组织的防御人员提供数据支持，以增强国家应对持续网络威胁的能力。
虽然NCSC将与数字、文化、媒体和体育部（DCMS）共同运行该计划，但也坦承，目前的自动防御活动超出了许多组织的风险承受能力。根据上周公布的预算，政府已拨款6000万英镑资助该计划，另有7000万英镑用于支持新成立的国家暴露和实时脆弱性（NERV）中心。该中心的职责是识别并持续监控CNI组织及更广泛经济领域的弱点。
同时，4000万英镑将用于资助一个负责应对失控机器人及其他机器人事故的国家代理安全部门。此外，一笔未公开金额的资金也将帮助在曼彻斯特建立由NCSC管理的人工智能网络安全中心。
呼吁紧急投资与认证折扣
NCSC首席执行官Richard Horne博士在公布年度报告时，呼吁各组织对安全和弹性进行“紧急投资”。他指出：“几十年来，我们一直依靠廉价技术取胜。我们可以成为一个所有组织领导人都选择在紧急情况下积极投资的国家。”
Horne强调，所有组织应将安全性和弹性视为基本要求，而非事后考虑，这将成为国家长期力量的源泉。他建议组织以NCSC的网络必需品认证作为起点，并根据自身规模、复杂性和风险水平扩大应变能力。
为鼓励中小企业参与，政府宣布为申请首次证书的微型、小型和中型企业提供75%的网络必需品认证折扣。
