本周科技硬件领域迎来多项重磅动态，其中 Nvidia 创始人兼前 CEO Jensen Huang 的离职消息尤为引人关注。过去五年间，Nvidia 已从一家游戏 GPU 制造商成功转型为人工智能巨头。
在本地 AI 计算设备方面，爱好者群体的兴趣日益浓厚，市场涌现出包括 RTX Spark 和 AMD Strix Halo 在内的多种选择。本期重点对比了两款看似定位迥异的竞争对手：Nvidia DGX Spark 与 Apple Mac Studio。通过一系列现实世界及合成基准测试，并在两台设备上运行大型模型，深入评估了各自的性能表现。对于特定工作负载而言，选择合适的硬件平台变得至关重要。
- Apple Mac Studio（搭载 M5 Ultra）与 Nvidia DGX Spark 的本地 AI 性能深度基准测试显示，随着 MLX 堆栈成熟，针对更大模型的推断引擎优化已成为必要条件。
随着 AI 基础设施建设加速，芯片需求激增导致 DRAM 容量成为行业瓶颈，客户端与企业级硬件成本双双上涨。AMD 近日披露了其预测性内存引擎 MEXT 的技术细节。MEXT 旨在让服务器仅使用一半的 DRAM 即可达到 99% 的性能水平。该引擎由 Transformer 模型驱动，并巧妙利用闪存存储技术。目前，AMD 已在 145 台服务器上部署该系统，计划明年将规模扩大至 2,000 台。
- AMD MEXT 技术通过智能内存管理，可在保持 95% 以上服务器性能的同时减少 DRAM 用量，目前已支持超过 100 台运行中的服务器，并计划于 2027 年扩展至 2,000 台规模。
在半导体设计领域，Cognichip 首席产品官接受了广泛采访，介绍了公司推出的 AI 驱动芯片设计工具。该公司于 9 月发布了名为“人工芯片智能”（ACI）的专有 AI 模型集，专门用于半导体工程。尽管这些工具尚未应用于量产产品，但通过自动化劳动密集型任务，有望大幅提升芯片开发效率。
- Cognichip 展示的新 AI 辅助程序可将芯片设计时间从数月缩短至数天，首席产品官解释称，自动化重复性任务是提升效率的关键。
关于 Jensen Huang 辞职一事，后续报道揭示了更多背景。这位前 Nvidia CEO 因卷入涉嫌婚外情争议而离职。报道探讨了 Huang 与康维女士之间非同寻常的关系，以及 Huang 丈夫近期在中国证券监管委员会面临的困境。
- 上海基金经理康伟将其妻子爱丽丝·黄介绍给 Jensen Huang，据称建立了价值 75 亿美元的 Nvidia AI GPU 走私行动。相关人士戏称爱丽丝·黄是 Nvidia CEO 的“私人助理”。
Nvidia 算力资源在中国依然稀缺，AI 实验室排队订购机架式设备及如 RTX 5500 Pro 等新卡。据报道，符合出口管制的 GB202 基 AI 加速器订单量已超过 600 万台。然而，中国 AI 实验室可能仍需支付溢价以确保合规运行。部分公司被指通过在马来西亚和新加坡等东南亚国家租用计算机来规避出口管制。
- Black 合作伙伴面临 51% 的非中国配额限制，黑市上 B300 机架价格已飙升至 280 万美元。
作为 Nvidia 在 AI 领域的最大竞争对手之一，Google 进一步扩展了其第八代 TPU 产品线，新增两款专为长文本代理 AI 和安全任务设计的芯片：TPU 8i Max 和 TPU 8tx。这标志着 Google 第八代 TPU 架构的进一步多样化。TPU 8i Max 规格为原始 TPU 8i 的两倍，而 TPU 8tx 则采用了更有趣的架构调整，用 AMD EPYC 替换 Arm 主机以满足专业安全工作负载的需求。
- Google 为第 8 代 TPU 阵容增加两款专用芯片：TPU 8i Max 采用双芯片封装以处理长文本工作负载，TPU 8tx 则将主机处理器从 Arm 切换为 AMD EPYC。
此外，边界模型基金会提出了一项新的越狱评级框架，旨在追踪 AI 模型突破保护措施并生成有害内容的难易程度。该框架借鉴 CVSS 风格，通过四个分数组件对可能的 LLM 越狱类型和严重程度进行分类，以识别潜在的越狱媒介。
- 新框架将 AI 越狱风险划分为能力增长、范围及部署容易度三个维度，前沿模型论坛为此提出了类似 CVSS 的评级系统。
