O*NET权重应用受限,AI职业评估面临多重挑战

O*NET权重应用受限,AI职业评估面临多重挑战。数据显示仅不到三分之一相关任务具备足够覆盖范围以纳入加权计算。此外,统计功效不足、基准饱和及63%工作涉及物理组件等问题,均制约着评估的稳健性与适用范围。

研究数据显示,O*NET 权重在特定场景下的变化幅度有限。在纳入加权分数的 O*NET 任务中,APEX 提示的模型表现相似,这限制了重新分配权重的实际价值。值得注意的是,在与上述四个职业相关的 O*NET 任务中,仅有不到三分之一的任务具备足够的 APEX 覆盖范围以纳入加权分数计算。相关团队计划将 O*NET 权重应用于更广泛的基准测试集,旨在生成高质量的特定职业模型得分,目前该目标正在推进中。

仅三分之一任务具APEX覆盖

即便整合数十个基准的任务数据,评估过程仍面临多重挑战:

  1. 统计功效不足的问题:美国经济涵盖的工作广度导致针对任何特定 O*NET 职业和任务的基准项目数量相对较少。这种样本量的限制使得估计结果缺乏稳健性,个别低质量项目即可显著影响整体得分。
  2. 任务难度与准确性的解释难题:部分基准项目已趋于饱和,而另一些仍未被解决。这一现象既受时间因素影响(早期基准是为性能较弱的模型及简单环境设计),也受质量因素影响(部分基准项目存在分类模糊、轻微错误或可被奖励的情况)。目前尚缺明确的质量权衡方法。
  3. 从自动化到增强的泛化测量:主要衡量 AI 自动化的评估标准难以直接推广至“增强”场景。现实中,AI 模型更多由人类辅助使用,而非完全自动化整个工作流。因此,评估模型的现实世界职业能力应包含其对人类生产力的提升效果。尽管已有初步探索,但实现规模化适配仍具难度。
  4. 基准测量的适用范围局限:基于知识型工作易于通过基准测量,因其主要在数字设备上完成。据丁格尔和尼曼估算,仅 37% 的美国工作可完全居家完成,这意味着约 63% 的工作涉及物理世界组件,难以纳入当前基准体系。随着机器人技术的快速发展,对物理任务基准的需求预计将显著上升。

针对上述问题,相关团队正积极寻求解决方案,并呼吁业界共同参与改进。此外,研究致谢王等人以及纳森·兰伯特对该工作草稿提供的反馈。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读