Intel与AMD整合PyTorch CPU优化至oneDNN

Intel与AMD将PyTorch CPU优化统一至oneDNN。AMD弃用ZenDNN并加入UXL基金会,通过单一代码路径加速x86推理,BFloat16性能提升2.21倍,简化跨平台开发流程。

Intel 与 AMD 近日宣布,将双方的 PyTorch CPU 优化工作整合至统一的 oneDNN 库中。该举措旨在通过单一代码路径,为两家公司的 x86 芯片提供针对 AI 推理任务的底层调整。

BFloat16性能提升2.21倍

AMD 加入 UXL 基金会并弃用 ZenDNN

此前,AMD 维护着一个名为 ZenDNN 的 oneDNN 下游分支版本。随着此次合作达成,AMD 决定转向由 Intel 主导、并在 UXL 基金会旗下发布的开源 oneDNN 项目。与此同时,AMD 正式成为 UXL 基金会的“指导成员”,据披露,这一身份需缴纳每年 20,000 美元的会费,以参与影响基金会的未来发展方向。

Intel 最初开发 oneDNN 时,将其建立在之前的深度学习库基础之上,随后该项目被纳入 UXL 基金会。作为创始成员之一,Intel 与 Arm、Qualcomm、Google Cloud 等共同推动了该基金会的发展。

x86 生态系统咨询小组(EAG)推动统一标准

AMD 指出,将双方努力统一为一个 DNN 库的建议源自 x86 生态系统咨询小组(EAG)。EAG 成立于 2024 年,是 Intel 和 AMD 之间的主要联合倡议机构。此前,两家公司已通过 EAG 在 x86 架构的 ACE 扩展等领域展开合作。

性能提升与技术细节

oneDNN 后端主要用于加速 PyTorch 等框架在最新 Intel 及 AMD 芯片上的 CPU 推断负载。数据显示,当 oneDNN 于 2023 年底作为后端集成到 PyTorch 时,Float32 数据类型的性能提升了 1.24 倍,BFloat16 数据类型则实现了 2.21 倍的改进。

根据 oneDNN GitHub 仓库文档,该库具备以下核心特性:

  • 在运行时检测硬件特性,并为特定平台生成优化内核;
  • 支持低精度数据类型;
  • 为矩阵乘法、卷积等常见人工智能和机器学习操作提供优化指令;
  • 具备跨平台能力,除 x86 外,还支持 Arm 和 RISC-V 架构。

对于开发人员而言,这一变化简化了在不同系统上使用 PyTorch 的流程。通过单一后端即可自动适配当前运行的硬件并提供相应优化,无需再针对不同厂商的芯片维护独立的优化路径。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读