Gartner:90%企业代理步骤可用开放模型

Gartner报告称,企业代理流程中90%的步骤可由开放权重模型处理。这类模型成本仅为封闭模型的1/4至1/20,且能帮助企业保留数据控制权,预计2030年将成为主流选择。

Gartner 高级董事马克·佩蒂(Mark Petty)与团队副总裁雷蒙德·帕奎特(Raymond Paquette)近日发布报告指出,企业代理工作流程中约 90% 的步骤可由开放权重模型处理,其成本仅为最便宜封闭模型的 1/4,或前沿大语言模型(LLM)的 1/20。

开放模型成本降至前沿LLM的1/20

分析显示,在典型的代理工作流中,每 10 个步骤里有 9 个属于常规操作,如分类、工具调用、传递、验证及数据协调。这些任务通常不需要复杂的边界推理,因此适合由开放式模型承担。相比之下,仅少数需要高阶推理的步骤才需依赖前沿封闭模型。

在成本方面,相对于最便宜的封闭式模型,开放模型的价格约为其四分之一;若与运行每一步的前沿模型相比,成本则降至二分之一。分析师补充道,由于当前开放模型可能需要更频繁的重试或更详细的处理,实际节省比例可能接近五到六倍,但这被视为转向开放模式的附带优势,而非核心目的。

两位分析师强调,控制权的保留是选择开放权重模型的关键因素之一。多年的工作流历史数据曾是收购 SaaS 公司时的重要资产,而开放权重模型能让企业保持对这些数据的掌控。成本节约虽是显著好处,但并非唯一驱动力。

基于此,Gartner 提出战略规划假设:到 2030 年,90% 的企业运营代理工作流程步骤将在开放权重模型上执行。企业预计将主要采用特定领域的开放权重模型,因为它们在每月数百万次执行的稳定步骤中表现良好。

报告认为,大多数 AI 模型已趋于商品化,人工智能产品的核心价值在于运行和管理代理的工具。这些工具的作用是将任务引导至最适合的模型,并通过强大的护栏机制节省资金、实施防护并管理代理舰队。反之,缺乏强大护栏的工具会增加使用者的负担。

该论文建议,前沿模型将继续充当研发引擎的角色,实质上构成资本支出;而开放模型则作为运营费用,承担繁重的工作负载。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读