Intel Arc B580 运行 125B AI 模型性能实测：XeStrata 引擎速度提升近三倍
尽管配备 12GB VRAM 的显卡通常不被视为运行拥有 1250 亿参数人工智能模型的理想硬件，但日本技术媒体 PC Watch 于 10 月 26 日发布的最新测试数据显示，软件优化对推理性能具有决定性影响。在针对 Intel Arc B580 的测试中，使用 XeStrata 推断引擎的性能几乎是标准 Strata 引擎的三倍。
具体数据表明，在相同的硬件配置下，XeStrata 实现了每秒 31.1 个代币（tokens）的处理速度，而基于开源 XeStrata 项目的基础版本仅达到每秒 10.9 个代币。这一结果代表了约 2.85 倍的速度提升，即 185% 的性能改进。
系统内存与量化策略是关键变量
本次测试平台采用了 ASRock Intel Arc B580 Challenger 12GB OC 显卡，搭配 Intel Core Ultra 5 250KF Plus 处理器及 64GB DDR5 内存，操作系统为 Ubuntu 26.04 LTS。被测模型为 Qwen3.8-Flash-Next，采用 IQ3_S 量化格式，上下文长度为 64K 代币，并配置了 8 位 KV 缓存。
值得注意的是，测试并未证明整个 125B 参数的模型完全驻留在 12GB 显存内。Strata 和 XeStrata 的设计初衷在于结合 GPU 加速与系统内存，从而允许大模型在显存有限的硬件上运行。根据设置信息，该特定量化配置需要约 50GB 的系统 RAM，因此 64GB 的内存配置是测试结果的重要前提，而非偶然因素。对于预算有限且希望进行本地 AI 推理的用户而言，这种软硬件协同机制比单纯的 GPU 规格更具参考价值。
XeStrata 与 Strata 的差异分析
此次对比涉及 Strata 0.2.1 版本与 XeStrata。后者作为衍生版本，针对支持的 GPU 架构进行了额外优化。PC Watch 通过 Ubuntu 包管理器安装了 XeStrata 0.1.43-2 版本（对应项目 xe0.1.43.1），并在相同型号和配置下对两款引擎进行了基准测试。
XeStrata 的发布文档指出，其改进了 Intel GPU 的执行路径，包括在某些操作中利用 XMX 矩阵硬件。然而，PC Watch 的比较数据并未明确区分速度差异中有多少比例归因于具体的单项优化。因此，该结果应被视为同一台计算机上两种软件配置间的整体性能对比，而非单一技术优势的证明。此外，该测试主要关注文本生成吞吐量，未涵盖首字延迟、响应时间或模型准确性等其他指标。
硬件限制依然存在，软件版本需留意
虽然 XeStrata 将生成速度提升至每秒 31.1 个代币，但这并不意味着硬件瓶颈已被彻底消除。运行此类大型模型仍然对系统资源构成巨大压力。评审人员指出，对于更复杂的代理型工作负载，Arc B580 可能显得力不从心，这类场景通常需要更高的 GPU 算力、更大的显存以及更长的上下文窗口支持。
此外，软件版本的时效性也是重要考量因素。PC Watch 测试所用的 XeStrata 套件并非最新版本。该项目在 10 月 24 日的更新中引入了额外更改，并记录了某些 Linux 配置下受 Intel 驱动程序影响的性能问题。因此，每秒 31.1 个代币的结果不应被视作所有 XeStrata 版本或驱动组合的通用基准。
本次测试的核心启示在于：在硬件固定的情况下，不同的推断引擎会导致显著的性能差异。对于本地部署大型语言模型的用户来说，软件选择的重要性不亚于显卡本身、VRAM 容量及系统内存配置。
