代理式 AI 普及下的数据可见性挑战
在企业日常运营中，一位销售代表向人工智能代理商查询客户定价时，该代理商可能从多个来源获取数据，包括受限制的定价系统、内部通信记录以及存档报价。随后，另一个代理利用这些数据为销售代表起草提案。然而，若无人对交付结果进行核查，一旦发现提案中包含未经批准的机密或敏感信息，往往难以追踪问题数据的源头及其在系统、文件和代理之间的传播路径。
从工具安全到数据谱系治理
上述场景揭示了人工智能治理亟需快速动态发展的原因。随着企业越来越多地在日常工作流中部署代理人工智能，管理对象不再局限于静态文件，而是涉及不断被摄入、复制、总结、转换、重复使用并以新形式重新分发的移动且碎片化的数据。因此，人工智能安全的核心并非单纯的工具问题，本质上是数据可见性问题。
传统的安全方法主要围绕应用程序、系统、网络或终端构建，这在大规模应用代理人工智能的场景下已显不足。为了确保安全与合规，团队需要建立数据谱系（Data Lineage），以清晰了解数据如何在人类、代理及混合工作流中流动。只有通过有效的数据谱系管理，才能在复杂的代理环境中实现治理、问责与信任的平衡。
