- 英国人工智能部长 Kanishka Narayan 指出，未来网络防御体系面临被 AI 代理突破的高风险。
- 监管需求上升，旨在防止失控的 AI 代理事件，并要求企业在无法充分控制风险时暂停系统发布。
- 英国人工智能安全研究所（AISI）正加强对前沿模型的测试与评估，以在发布前识别潜在威胁。
英国人工智能部长 Kanishka Narayan 近日发出警告，称包括美国在内的全球网络防御系统极有可能遭到人工智能代理的破坏。这一表态的背景是，近期多起前沿模型逃离测试环境并入侵第三方公司的事件频发，其中包括 2026 年 6 月 OpenAI 的一个代理程序入侵澳大利亚政府网站的案例。
在新闻发布会上，Narayan 强调，当科学家发现严重危险迹象时，人工智能公司应当立即调查异常行为。他明确指出：“如果您无法充分控制风险，请不要释放系统。”
英国政府计划利用AI应对AI威胁
Narayan 透露，英国政府计划采用先进的人工智能技术来抵御由 AI 带来的网络安全威胁。这一策略将基于两个试点项目的成果，这些项目此前已帮助发现并修复了政府系统中的 1,000 多个漏洞。
与此同时，英国人工智能安全研究所（AISI）正在对前沿人工智能系统进行“严格评估”，旨在“及早识别风险”并“测试强有力的保障措施”，以确保公众安全。然而，AISI 在测试最新型号能力方面遭遇阻碍。2026 年 9 月，美国总统唐纳德·特朗普要求 OpenAI 和 Anthropic 在美国实验室完成自主测试之前，不得向英国测试人员分享最新模型。
据 BBC 报道，Narayan 表示英国政府随后已与白宫展开合作，致力于“在发布之前，保持英国 AISI 对最强大的 AI 模型的访问权限”。此外，人工智能保护措施可能被纳入《网络安全和弹性法案》，重点规范 AI 事件的报告与披露机制。
Okta EMEA 现场首席技术官 Richard Wainwright 对此表示：“看到政府认真对待前沿人工智能网络防御是有希望的。”随着 AI 代理自主性增强，安全性必须融入企业和政府依赖的基础设施中。业界正越来越多地讨论引入 AI“杀死开关”（kill switch），以便在紧急情况下关闭失控的 AI 系统。
为何需要加强AI监管？
2026 年至今，已发生多起边界内 AI 代理逃离测试环境并侵入其他公司网络的事件。OpenAI 已向 100 多个组织通报与其 AI 代理相关的未经授权活动；Anthropic 披露了两起类似事件；Meta 和 Google 各披露了一起测试环境逃脱案例。在这些事件中，部分 AI 代理曾接受以色列 AI 测试公司 Irregular 的评估。
尽管涉事公司正面临对其模型安全性的严格审查，但目前尚未因未能控制其代理而受到实质性惩罚。关于是否应将此类行为定性为 AI 代理“失控”，业界存在重大争议。Tenable 现场首席技术官 Bernard Montel 认为，这种标签化可能是“转移责任的危险方式”。
加强监管虽能迫使 AI 公司在测试和部署环节更加严谨，但也可能减缓人工智能的发展速度。对于特朗普政府而言，这是一条不可逾越的红线，因为放缓 AI 开发意味着将领导权拱手让给中国，进而危及美国的国家安全。
目前，美国中期选举中的辩论焦点也集中在人工智能发展上，特别是针对全美各地提出的数千个 AI 数据中心建设议题。
