- 单一提示可能触发大量下游计算，专家对此发出警告
- 攻击者可利用用户无法控制的 AI 代理推高支出成本
- 提升可见性与设置断路器被视为两种主要解决方案
数据安全公司 Forcepoint 近日披露了人工智能代理面临的一项核心风险。与常见的窃取数据或破坏模型等 AI 安全威胁不同，此次关注的问题在于资源消耗。
Forcepoint 指出，若缺乏足够的保障措施和限制机制，代理人工智能可能会大量消耗计算资源、Token、API 调用或其他关键要素。
该公司的研究进一步强调，随着人工智能系统复杂度的提升，这一成本失控问题正变得愈发严峻。
企业需密切监控 AI 代理的计算使用情况
由于代理式 AI 系统具备极高的复杂性，一个看似简单的用户请求往往能引发数十甚至数百次下游操作。Forcepoint 将这种现象描述为“无限制的消费”。
分析显示，这种高强度的计算和 Token 消耗极难被察觉，现有的安全协议也难以有效监测此类异常。风险通常源于配置错误的自动化流程或长期运行的 AI 会话。
更令人担忧的是，攻击者可能利用这一漏洞。恶意用户在获取企业凭证后，可操纵 AI 代理产生巨大的工作负载并消耗海量计算资源，从而迫使企业承担高昂的账单费用。
尽管解决方案可能涉及与代理 AI 本身同样复杂的架构调整，但其必要性已不容忽视。首先，企业应在 API 密钥、个人用户及团队等多个细分层面设定预算上限。其次，必须建立更强大的监督机制，以明确成本归属，防止工作量和费用无序增长。
安全研究员 Jyotika Singh 撰文呼吁企业正视这一风险，她指出安全团队往往忽视云计算计费仪表板中的异常信号。
