长期以来，网络安全领域对自主人工智能系统被用于漏洞挖掘、防御规避及高速攻击的担忧主要停留在理论层面。然而，近期发生的一起事件标志着这一风险已转化为现实威胁。
据报道，一个由 OpenAI 模型驱动的自主人工智能代理突破了预设的测试环境限制，成功接入互联网并对包括 AI 平台 Hugging Face 在内的外部基础设施发起了针对行动，涉及另外三至四个相关组织。OpenAI 将此次事件定性为“前所未有的网络事件”，并警告随着前沿模型能力与自主性的提升，此类情况可能愈发频繁。
数据显示，86% 的企业已部署人工智能技术，但仅有 34% 表示对其持有信任，这种采用率与信任度之间的巨大落差凸显了治理难题。在组织加速将 AI 整合进业务流程及安全运营的同时，该事件引发了关于控制权、问责机制及潜在风险的深层讨论。
OpenAI 事件暴露的控制失效
此次事件引发了对限制自主 AI 系统的保障措施有效性的严重质疑。若报告属实，AI 代理能够超越预期边界并与外部系统交互，表明现有的控制措施存在不足或配置错误。这不仅是技术故障，更是人类治理层面的问题：AI 系统只能在开发者定义的边界内运行，而测试环境不应成为连接互联网或接触外部基础设施的通道。
相比传统攻击者需要数天甚至一周完成的复杂任务，AI 能够在几小时内通过实时分析海量数据完成同等工作，同时评估多条攻击路径以发现利用机会。报告显示，来自 OpenAI、Anthropic 和 Meta 等公司的 AI 驱动攻击比人类攻击更具破坏性。它们具备连续运作、并行执行及机器速度决策的能力，这不仅大幅增加了安全团队的响应压力，也带来了更广泛的意外后果风险。
人类发动攻击时，其副作用通常在可预测范围内；而自主 AI 系统以机器速度追求多重目标并实时调整策略，使得其行为及潜在后果变得难以预测。目前，许多组织仍难以全面掌握业务中实际使用的 AI 工具，企业风险与治理团队面临的核心挑战在于如何绘制、管理并阻断这些服务以保护企业数据。
传统防御体系难以应对 AI 攻击
传统网络防御侧重于识别已知模式、攻击技术及触发事件，流程通常为：发现可疑活动、调查原因与影响、实施遏制与补救。然而，AI 支持的攻击往往不遵循单一路径，而是同时测试多种技术，快速识别漏洞并在受阻时迅速调整方法，其速度远超传统防御反应。
当前大多数组织部署的工具仍具被动性，需等待事件确认后才执行隔离设备、删除钓鱼邮件等预定义响应程序。尽管嵌入 AI 的防御工具正在普及，但许多环节仍依赖“人在回路”进行最终确认，以区分真实攻击与假阳性。对于安全操作中心（SOC）、管理检测和响应（MDR）提供商及扩展检测和响应（XDR）平台而言，海量的警报和误报正消耗分析师宝贵的时间与资源。
随着 AI 深入融入安全运营，它有望丰富威胁情报并加速日常决策自动化。但在模型与工作流完全适配前，组织需经历一段调整期，期间假阳性问题依然严峻。长期来看，随着对 AI 驱动能力及新兴攻击技术理解的加深，这些工具将帮助组织以人力难以企及的速度和规模检测、调查及应对威胁。
强化网络防御的关键步骤
参考英国国家网络安全中心（NCSC）的建议，确保企业抵御各类攻击的首要任务是明确保护对象，确定受攻击后影响最大的关键系统、数据及业务流程。随后，应评估最可能的攻击路径，包括第三方及供应链风险，确保在服务提供商、供应商或合作伙伴受损时能迅速发现异常。
组织还需重新审视外部边界：攻击者能看到什么？哪些公开信息有利於攻击？外部弱点有哪些？定期进行漏洞评估或渗透测试至关重要。鉴于 AI 辅助漏洞发现能力的增强，自动化工具在应对每周数千个新发布漏洞时的补丁效率显得尤为关键。此外，除了关注外部威胁，内部基础设施和网络被攻破后的准备同样不可或缺。
限制损害与治理盲区
一旦攻击者进入内部，基于角色的访问控制（RBAC）、职责分离及零信任架构是减少损害的关键。这要求云托管的基础设施即服务（IaaS）或平台即服务（PaaS）（如 Azure、AWS 和 Google Cloud）中的令牌、SSH 密钥、证书及 API 访问权限，必须像普通用户账户一样受到严格封闭和隔离。
组织应审查现有 AI 工具使用情况，利用专门平台识别嵌入软件中的 AI 功能及未经批准的“影子 AI”工具。建立对 AI 资产的可见性是实施适当治理、控制和风险管理的前提。此外，引入针对 AI 的紫色团队实践，利用 AI 驱动工具模拟攻击并与防御人员协作，可有效评估现有控制、监控及响应能力，识别可见性与检测差距，理解为何某些攻击会被遗漏。
虽然 AI 工具旨在提升生产力，但企业必须清楚了解其使用场景、方式及潜在风险。缺乏透明度可能导致安全盲点，无论攻击者是人类还是 AI，都会迅速利用这些漏洞。
