Google预测2027年AI重塑安全防护格局

Google预测2027年AI将重塑安全防护格局。自主代理在应急响应速度与规模上超越人类,传统警报队列将消失。企业需为每个AI代理建立独立身份并实施零信任管理,防止其成为新的攻击入口。

核心要点

  • Google 预测,代理人工智能将在 2027 年深刻改变大规模安全防护格局。
  • 安全专家指出,人工智能在应急响应速度与规模上已超越人类团队,成为新常态。
  • AI 代理需具备独立身份,并作为关键资产与潜在网络安全风险进行管理。

年初时,鲜有组织在发现及修补漏洞等网络安全流程中深度应用大型语言模型(LLM)和 AI 代理。然而据 Google 观察,这一趋势目前已发生规模化转变。

2027年传统警报队列将消失

企业是否应信任这些工具?随着自主 AI 的能力迅速突破传统安全运营中心(SOC)的速度与规模极限,无论意愿如何,AI 已成为新现实下不可或缺的角色。

速度与规模是企业考虑在 SOC 及更广泛安全领域采用 AI 的主要驱动力,这也是 Google 发布 2027 年安全预测的基础。但若缺乏正确的预防措施,AI 的安全采用者可能会无意中扩大而非缩小攻击面。

1. SOC 警报链的自动化升级

“警报疲劳”是 SOC 团队面临的长期挑战。分析师需对每条警报进行繁琐排查,其中许多为无关项或误报,导致熟练员工陷入低效劳动。

如今,自主 AI 驱动的威胁可在几分钟内探测网络、入侵并横向移动,同时追踪数天甚至数周前记录的多系统威胁数据与安全警报。

Google 预测,到 2027 年,传统的原始警报队列将消失。Google 云安全工程副总裁 Ramya Chitrakar 认为,这一年将是分析师从“追逐警报”转向“塑造结果”的关键节点。

实现这一转变需要重构警报模式。根据 Google 的观点,在网络安全事件初期,人类维护者不再负责分类警报,而是由自主代理自动完成“数据丰富、相关性分析和分类”,最终输出经过验证的结论,而非原始工单。

这意味着网络安全专家可监督警报处理及自动化行动验证,从而将精力集中于其他高价值任务。

2. AI 代理的身份管理与零信任深化

定制化的智能 AI 通常设计为在人类监督下自主工作。然而,若成千上万个代理在多个环境中运行,它们可能为企业网络创造高价值的攻击入口。

我们需要将代理人工智能视为不仅仅是工具:每个代理都需要像人类员工一样拥有独立身份。

Google 安全工程副总裁 Heather Adkins 建议,零信任概念不应局限于网络层,而需延伸至交易层。

必须为每个代理建立文件记录,这在手动操作下难以实现。即使在零信任框架内,AI 代理也可能被赋予过多权限。因此,应对每个交易和授权进行验证,并为每个人工智能代理分配最低特权凭据。若发生安全事件或代理不再需要,这些凭据应立即撤销。

报告指出,借助实时自主推理支持,系统可以在周二动态允许特定交易,实现精细化管控。

3. 软件开发速度提升下的持续安全

Google 表示,AI 正加速新软件的开发与部署。到 2027 年,安全必须成为嵌入软件交付管道中的连续系统。

多年来,威胁行为者一直发起软件供应链攻击,其中最著名的是 2020 年的 SolarWinds 事件。Google Threat Intelligence 副总裁 Sandra Joyce 指出,网络犯罪分子现在正在向从开源代码到软件库的一切内容中投毒,而 AI 编程助手通常会自动将这些受污染的内容拉取到代码库中。

在软件开发周期结束时出现的 Bug 修复工单往往需要几天响应时间,这种滞后性已不再适用。相反,编写和保护代码必须在 AI 代理的帮助下同步进行。

Google 补充道:“我们还必须直接将现场生产环境与源代码连接起来,使维护者能够追踪真实世界中的代码,验证其是否真实可利用,并在不破坏生产的情况下以机器速度提供预先测试的修复。”

4. 红队演练覆盖代理 AI

随着组织急于将 AI 应用于产品和服务以展示“AI 优先”的创新形象,安全性常被忽视或被视为事后考量。

AI 引入了新的安全问题,包括软件漏洞、错误配置、绕道攻击和间接提示注入。鉴于 AI 技术也掌握在所有网络攻击者手中——从脚本小子到国家赞助团体——审计企业网络和基础设施变得至关重要。

渗透测试和红队演习现在必须覆盖代理 AI。随着企业在工作流程、流程和产品中实施 AI,组织需要在威胁行为者利用之前识别并解决 AI 带来的安全隐患。

CISO 应在自动化工作流程进入生产前,安排渗透测试人员进行审计,并将结果与威胁情报结合,确保防御人员拥有加强网络防御所需的信息,并强化针对新型攻击的分类器。

5. 协同式大规模安全防护

2027 年另一个重要趋势是解决代理扩散问题,即创建可快速处理大规模安全任务的协同 AI 代理团队。

当 AI 辅助的攻击者能在更短时间内破坏终端设备、进入网络、横向移动或窃取数据时,CISO 应采用专门的、有策划的 AI 代理团队取代“通用型”AI 代理。这些专用代理可通过专业工具和技能集满足防御 AI 驱动攻击的需求。

此外,CISO 需确保每个代理都拥有独立的领域培训、记忆和专用工具,并能在设定范围内自主行动。同时,需要一个中央协调员来判定何时将决策权交还人类。这需要严格的监督,但作为回报,组织可有效避免代理扩散带来的风险。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读