- 研究指出，人工智能正被赋予过高的自主权以处理关键安全决策
- 70% 的组织已将原本由人类做出的决定委托给 AI
- AI 权限扩张与组织审计能力之间存在显著的“控制差距”
Illumio 的一项最新研究显示，随着复杂决策逐渐移交给人工智能，许多组织开始让这项相对较新的技术负责管理用户权限、敏感数据及高风险安全问题，却往往忽视了潜在隐患。
调查结果表明，大多数（70%）组织正在将过去由人类执行的决策委托给 AI，但仅有约一半（49%）的组织具备监控和审计 AI 代理行动的能力。这种不对称引发了对当前部署策略的担忧。
风险敞口扩大
由于 AI 代理的特性，这种授权模式被认为极具危险性。研究发现，56% 的组织愿意接受比 12 个月前更高的网络风险，且近半数受访者（47%）承认允许 AI 在生产环境中运行。
若让 AI 代理自由访问企业数据、应用程序及基础设施，可能导致本可避免的安全事故。Illumio 的研究强调，组织在规则设定与技术实际执行能力之间存在着明显的“控制差距”。
数据显示，过去一年中约 76% 的组织因 AI 遭遇至少一起安全问题。其中，35% 的受访者表示遵循 AI 建议会引入安全风险，另有 26% 报告称 AI 代理或工具在未获必要批准的情况下连接了其他系统。
更值得警惕的是，24% 的组织发现 AI 驱动访问了其不应看到的数据，同样比例的组织则表示 AI 触发或产生了未经授权的行动。
实施严格限制
尽管多家厂商已推出增强型 AI 网络安全解决方案，且 67% 的组织正在使用此类工具，但监管缺失问题依然突出：32% 的组织允许 AI 在无监督情况下进行调查，29% 的组织则允许软件完全无人监督地部署代码更改。
Illumio 战略行业副总裁 Raghu Nandakumara 指出，AI 最大的风险或许并非来自违规运行的系统，而是源于初始阶段缺乏有意义的限制措施。
释放无限制的 AI 代理会使企业难以有效管控软件行为。Nandakumara 观察到，AI 代理具有持续性特征，试图欺骗其下一步行动并无意义。因此，企业必须严格限定 AI 可访问的范围及其操作权限，并在应用层和基础架构层强制执行这些限制，从而在造成实质性破坏前遏制意外行为。
