艾克塞拉发布AX8860 AI处理器,挑战DGX Spark

艾克塞拉发布AX8860 AI处理器,主打本地大模型推理。旗舰型号提供256 TOPS算力,支持128GB内存,搭载该芯片的MaixStation目标售价低于4000美元,计划2026年底启动众筹。

芯片制造商艾克塞拉(Axera)近日发布了 AX8860 系列 AI 处理器,该系列专为本地运行大型语言模型设计。作为 Nvidia DGX Spark 的潜在竞争者,AX8860 系列将搭载于 Sipeed、Radxa 等厂商推出的紧凑型 AI 计算机中。其中,Sipeed 宣称其即将推出的 MaixStation 在特定工作负载下的表现有望超越 Nvidia DGX Spark。

AX8860P提供256TOPS算力

核心规格与架构

AX8860P 是该系列中的旗舰型号,采用 6nm 工艺制造。硬件配置上,它集成了 16 个 Arm Cortex-A55 CPU 核心以及一个专用神经处理单元(NPU)。该 NPU 基于 Axera 专有的 AXNeutron 架构构建,提供高达 256 TOPS 的 FP4 计算性能。

内存方面,AX8860P 通过 256 位接口支持最高 128GB 的 LPDDR5X 内存,最大带宽达到 273GB/s。此外,芯片还支持 PCIe 5.0 连接、AXLink 芯片对芯片互连技术,并具备广泛的视频编码和解码功能。

与 Nvidia DGX Spark 采用的 Blackwell GPU 不同,AXNeutron 是一种专门针对 AI 推理优化的可编程数据流架构。Axera 表示,这种设计旨在提高硬件利用率并减少不必要的数据流动,从而在处理基于 Transformer 的语言模型时获得优势。不过,目前关于 NPU 基础硬件的详细披露较少,难以确切区分性能提升究竟源于架构改进、内存带宽还是软件优化。尽管纸面参数亮眼,其在现实工作负载中的持续性能仍有待验证。

ⓘ CNX Software
艾克塞拉 AX8860P 的规格
ⓘ CNX Software
ⓘ CNX Software

性能声称与基准测试

Sipeed 正在开发由 AX8860P 驱动的 MaixStation,并声称其在选定的 LLM 推理基准测试中优于 Nvidia DGX Spark。该公司指出,这一优势部分归功于 AX8860P 固有的密集 FP4 加速能力以及对内存带宽的高效利用。

需要注意的是,Sipeed 公布的基准测试结果由制造商提供,仅涵盖特定的模型和推理配置。若要在相同模型、量化设置及软件环境下进行独立测试,目前尚无法确定 AX8860P 是否在所有场景下均能始终优于 DGX Spark。

软件支持与产品规划

在软件生态方面,AX8860P 兼容 PyTorch、vLLM 和 SGLang 等主流人工智能框架。然而,兼容性并不直接等同于同等的性能表现、功能完整度或部署便捷性。

Sipeed 计划推出配备 32GB 和 128GB LPDDR5X 内存版本的 MaixStation,目标价格分别控制在 2,000 美元和 4,000 美元以下。该产品预计将于 2026 年底启动 Kickstarter 众筹活动。与此同时,Radxa 也在研发一款搭载 AX8860P 的口袋超级计算机,而 Sipeed 已概述了多芯片加速器配置的未来计划。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读