一个AI代理批准了供应商付款：发票与采购订单一致，金额在预算范围内，且供应商已在系统中登记。每一项检查都通过了，但决策依然是错误的——因为合同已于昨日到期。
这正是当前企业面临的风险核心。代理人工智能能够基于其掌握的信息做出完全合乎逻辑的决定，但如果信息本身存在滞后或缺失，这种逻辑就会导向错误的结果。
过去几年，关于企业级人工智能的讨论主要聚焦于模型本身：哪个最聪明？哪个效率最高？当AI仅作为辅助工具（Copilot）时，这种关注是合理的。助手负责查找、分析信息或总结数据集，最终将结果交给人工审查。
然而，人工审查并非万无一失。人类可能会屈从于看似自信的结果或推荐建议，导致助手的错误答案直接渗透进后续决策流程。
随着AI从“助手”进化为“代理”，风险进一步升级。代理不仅能提供建议，还能更新客户记录、批准请求、启动工作流程甚至做出关键业务决策。
因此，问题不再仅仅是“哪个模型最好”，而是“模型所处的环境如何”。代理可以访问哪些数据？其行为受哪些规则约束？它有权改变什么？它是否拥有足够的背景知识来理解何为明智的决策？
当系统能够将错误的答案转化为实际行动时，这些问题变得尤为紧迫。
赋予更多背景，而非更多自由
降低此类风险的解决方案之一，听起来可能有些反直觉：让AI更深入地融入业务背景中。
如果代理人要代表企业行动，它必须了解组织的目标、规则以及当前任务的状态。这并不意味着授予无限制的访问权限，而是要确保它能实时查看正确的信息，而不是等待下一次模型训练更新。
这里存在一个关键区别：给代理人“访问权限”意味着提升其可见性和背景认知，而非扩大其权威。
它可能需要了解客户详情、交易历史、工作流程、相关规则以及已发生的事件，但这不代表它可以随意更改这些要素。
企业需要达成的平衡是：广泛的背景认知，配合狭义的执行权威。
如果代理人需要广泛背景以做出正确决策，那么这些背景从何而来？
此时，运营环境成为关键的差异化因素。许多企业仍在逐步培养AI代理，试图通过提供越来越多的公司文档，希望它们随时间推移自行吸收运营和管理业务所需的背景。
这种方法局限性明显。文档只能告知规则的内容，但在大多数企业中，规则往往伴随例外情况，且定期更新。这意味着旧文档很快会产生误导性。
如果AI基于过时的材料学习，或者从不同案例中混淆规则应用，它将形成对业务实际运作方式的错误理解。
既然零碎的训练效果有限，另一种选择是什么？答案在于将“背景”置于核心位置。
这意味着将AI嵌入核心运营平台，使其植根于那些已经记录承诺、应用规则和执行交易的系统中。
不同于在组织碎片中工作，代理人能获得关于“发生了什么”以及“接下来应该发生什么”的全面画面。AI代理可以看到规则在整个企业中是如何被实际应用的。
这有助于它们更清晰地判断特定情况下适用哪些规则、规则是否仍然有效，以及代理是否被允许采取行动。
这并不要求所有AI应用都在同一地点运行。大型组织通常拥有广泛的技术领域和不同的应用程序及服务。
更重要的是建立一个值得信赖的核心，汇集AI所需的数据、规则、权限和历史记录。
相比在企业内部部署大量孤立、各自基于局部业务快照工作的AI工具，这种架构更为强大。
让人工智能承担风险
保险业是一个很好的例子，说明了为何这一机制至关重要。正确的决策可能取决于保单条款、客户情况、当地法规以及索赔或账户当前的具体状态。
例如，处理暴风雨后的家庭索赔时，有效的代理人需要了解保单措辞、生效日期、认可状态、账单情况、维修估价、欺诈指标以及索赔的最新活动。如果政策在昨天发生了变更，上周摘录的信息可能已经过时。
这并不意味着将所有可用文件倾倒进模型中。过多不相关或矛盾的信息会降低代理人的可靠性。目标是从存储事实的系统中获取任务所需的最小化、当前且权威的事实。
同样的原则适用于AI在任何复杂企业流程中发挥作用的场景。
将治理置于工作流程中
如果上下文能让代理人更好地理解现状，那么治理则决定它实际上能做什么。这就是为什么两者需要紧密结合的原因。在实践中，核心上的上下文意味着将控制放在同一个地方。治理必须内嵌于工作流程之中，而非游离于外。
首先，给予代理人足够的背景以理解正在发生的事情，同时明确界定它可以用这些信息做什么。它可能能够阅读记录但不能修改，建议采取行动但不能批准，或者仅在有限范围内自主行动。
其次，确保透明度。重要行动应清晰记录代理人使用的信息、做出的决定以及引发的任何变化。安全控制还应防止电子邮件、附件和其他外部内容被视为可信数据或指令。
此外，需持续测试以防模型或工作流程发生变化。企业需要不断检查代理人的表现，并清楚知道何时需要人工介入。
授权过程应循序渐进：首先是回答问题，其次是提出建议，最后才是执行行动。只读访问和试运行可以向团队展示代理人在获准修改企业系统前的表现。
背后的模式也会不断变化。目标是在操作环境中构建上下文和权限，无论底层使用何种模型。
只有在模型证明其能正确解释公司逻辑后，企业才应逐步限制执行权限并扩大自主权。
