第一代企业级人工智能项目主要解决信息获取问题:用户提问,系统检索背景资料,模型生成答案。然而,随着人工智能代理(AI Agents)的引入,这一逻辑发生了根本性变化。代理能够动态获取信息并在执行过程中调整自身状态,任务流程从计划制定、工具调用到记录更新及结果归档,呈现出高度的复杂性。

这种转变导致数据层的行为模式显著不同,进而对成本和准确性产生深远影响。当代理式 AI 项目从试点阶段迈向生产环境时,这些影响正成为核心考量因素。
试点阶段为何掩盖了真实成本
记忆演变为操作系统
早期的试点项目通常设计狭窄,团队使用有限的数据集进行相对简单、短暂的交互,例如请求文件摘要。在这种模式下,模型访问、令牌消耗和上下文检索构成了账单的主要部分。
但当应用场景从被动聊天机器人转向多代理系统时,成本结构随之改变。传统生成式 AI 的成本随用户数量线性增长,而多代理部署的成本则随任务复杂度增加。随着任务复杂度的提升,概念验证阶段的支出往往大幅攀升。
以 AWS 为例,其基于文本的概念证明每天处理约 100 次交互,月成本约为 40 美元;而采用知识库和防护栏的智能代理概念证明,在相同交互量下,月成本估计高达 840 美元。Anthropic 关于多种药物研究文章的支持数据也印证了这一趋势:多代理系统的令牌使用量比聊天交互高出 15 倍,这意味着只有高价值任务才能证明其经济可行性。
在多代理系统中,成本上升的原因显而易见:代理通过动态循环、工具调用、重试机制和上下文转移来完成任务。此外,一个关键因素是代理需要处理和推理越来越多的数据。相比典型的聊天会话,代理具有更长的运行寿命,必须记住过去的行动并保存决策依据。每一个完成的任务都会转化为新的状态。
随着代理机队的扩大,企业支付的不仅仅是下一个答案的费用。早期生成式 AI 系统将记忆视为上下文,仅在需要时检索;而持久化代理提出了新要求,记忆成为一个不断更新的活跃操作系统。
这对性能和成本至关重要。狭窄的写入路径可能因多个代理同时更新记录而产生争议;同一上下文的单独副本增加了存储和同步负担;将所有历史记录保留在最快速的存储层中,会导致不常用的信息变得昂贵。
在设计支持代理机队的数据层时,服务级别决定了内存的访问和管理方式。技术领导者需明确各类记忆的响应速度要求、更新权限、共享范围以及保留时长。
为代理机队设计内存架构
随着代理部署的多样性和复杂性增加,三个主要原则日益重要。
首先是并发性。领导者应评估写入能力是否能随代理数量增加而扩展。当大量自主进程同时更新状态时,主要为重读应用设计的基础设施表现可能与预期大相径庭。
其次是共享记忆。若多个代理在同一客户、资产或流程上工作,创建独立的环境副本会带来成本和不一致性。建立共同的状态源有助于协作,前提是访问控制和来源保持清晰。
第三是将主动记忆与历史记忆分离。代理可能需要最近几分钟的工作流状态,而六个月前的记录仅用于审计或不寻常查询。将这两类数据同等对待是一种昂贵的默认设置。经常访问的状态应靠近计算层,而较旧的信息应转移至低成本持久存储。这样,计算可基于当前活动而非系统启动以来的累积总内存进行。
历史变化的存储方式也面临类似权衡。保存完整版本记录便于检索但占用更多容量;仅保存增量变化节省空间但重建旧状态耗时较长。定期快照结合其间的小幅变化,可提供一条实用的中间路线。
规模化前需确定的事项
这些看似技术性的考量实际上确立了部署的经济模式。在代理机队扩大之前解决这些问题,比事后补救更为廉价。
一旦接受代理既创造又消费信息的现实,早期设计选择便变得可衡量而非抽象。具体指标包括:每个代理写入状态的频率和数量;可同时更新同一客户、资产或工作流程的代理数量;一天、一周或一个月后需立即访问而非存入便宜持久存储的内存量;文本是否可安全共享而非每位代理复制。
每一步骤都有成本,它们共同决定了规模可行性的数字——每项任务的成本取决于代理数量和保留的内存量。
在扩展前解决这些问题改变了试点的设计思路。团队可以在系统尚小时在生产环境中测试写入负载、保留规则和预期的共享模型,此时隐藏成本既可见又易于修复。
AI 经济始于模型底层
即使模型价格持续下降、推理效率提高,大规模代理部署仍会产生越来越多的操作数据,这些数据必须被编写、共享、保护、检索和保留。
这项活动的成本在很大程度上取决于模型底层的架构。计划采用下一阶段 AI 的公司应测量代理任务的整个生命周期,包括其留下的记忆痕迹。在飞行员转变为机队之前,技术领导者能更清晰地判断 AI 系统在生产规模下是否具备经济性。





