AI 代理人的治理悖论：谁来验证“验证者”？
安全团队正面临前所未有的信任压力，需向客户和董事会证明其防护能力。然而，传统的安全合规框架与实际风险表现之间的脱节日益严重。这种“看似安全”与“实际安全”之间的差距并非新现象，但人工智能（AI）的普及使其变得无法忽视。
随着 AI 系统复杂度的提升，传统的合规优先方法难以跟上步伐。许多安全领导者指出，行业正陷入“安全戏剧”（Security Theater）：大量活动仅用于证明控制在某个时间点存在，却无法证实其在当下是否有效。AI 既能自动化执行控制措施，也能轻松伪造控制存在的表象。由此引出一个核心治理难题：如果由 AI 代理人来验证你的安全控制，那么谁又来验证这些 AI 代理人本身？
业界数据显示，超过一半的英国安全领导者认为 AI 驱动的威胁演变速度超过了团队的应对能力，但与此同时，80% 的受访者已经使用或计划将 AI 代理人纳入其安全策略。一旦 AI 开始做出或影响安全决策，如何维持团队信任成为棘手问题。若缺乏有效答案，AI 可能不仅无法解决安全问题，反而会扩大风险敞口。
日益扩大的 AI 安全治理缺口
尽管现有工具支持合规自动化，但大多数合规工作仍依赖人工完成。英国组织报告称，每年约花费 12 周处理合规任务，另有 9 周用于供应商审查，这些时间被从实质性的风险降低工作中转移走。
为减轻此类压力，AI 的应用日益广泛。许多领导者对 AI 辅助战略决策持开放态度，例如协助优先级排序或提前识别新兴问题。然而，治理能力的建设并未跟上技术采纳的速度。
填补这一缺口的首要步骤是建立可见性：不仅要清点故意部署的 AI 系统，还需涵盖工程师调用的模型 API、SaaS 堆栈中嵌入的 AI、第三方代理人、MCP 服务器，以及传播速度快于影子 IT 的“影子 AI”。同样的纪律也适用于身份管理：每一个派出的 AI 代理人都应被视为环境中的新角色，拥有独立身份，接受与新员工同等的待遇。
自动化虽能在短期内减少工作量，但若决策过程不可解释、无法追溯证据或在出错时难以质疑，则会破坏信任基础。在部署 AI 代理人之前，团队必须明确其访问权限、可查看的数据范围、需要人类批准的操作节点，以及在必要时撤销行动的方法。
对于高影响操作，如修改用户访问权限、删除数据或移动资金，必须保留有意义的人类监督。这些控制机制不应止步于部署阶段，而应通过运行时控制持续执行，包括最小权限访问、即时许可、分段隔离、断路器及自动封闭等措施。这些手段旨在缩小潜在问题的爆炸半径，而非依赖事后调查。
当合规演变为“安全表演”
监管压力的增加加剧了这一问题。从《网络安全和弹性法案》到 FCA 的运营弹性规则，合规要求不断收紧。调查显示，超过一半的英国安全领导者表示，他们现在花费更多时间在“证明安全”上，而非真正“改善安全”。
AI 在此领域可提供帮助，但前提是经过深思熟虑的应用。自动化确实能减少劳动疲劳，提高超负荷团队的生产力。然而，如果合规体系依然保持静态且以检查清单为导向，AI 可能会加速错误结果的出现：更快的证据收集意味着需要维护更多的控制项，导致行政负担加重，却未带来相应的弹性提升。
解决方案不在于更多的自动化，而在于目标的转变：合规应是安全的副产品，而非终点。
为何此时的转型至关重要
安全的下一阶段将由组织协调人员、流程和系统的持续能力定义，而非依赖定期审计或定时保证。在 AI 驱动的环境中，风险变化过快，静态方法已无法适应。领导团队正通过确保持续的风险信号、控制和证据与环境变化保持一致，来实现持续的信任构建。
证据获取方式正在改变：系统可自动从云平台、身份提供商、票务系统和代码库中提取证据，取代审计前临时收集的截图。这使得团队能够在控制偏移发生初期发现并解决问题，防止其演变为重大故障。
AI 既是新的风险来源，也是管理其他风险的最佳工具。有效的治理方案不会阻碍创新，而是使经批准的路径比“影子路径”更便捷，同时在关键节点保留有意义的人类监督。最终的赢家未必是最快的采用者，而是那些其 AI 代理人能够清晰回答以下问题的组织：你访问了什么？为什么访问？谁签署了授权？
