Meta发布Muse Spark Open模型,支持双Mac Studio本地运行

Meta发布8160亿参数开源模型Muse Spark Open,主打编程与智能体任务。该模型经优化可在两台512GB内存的Mac Studio上本地运行,利用统一内存架构实现协同工作。

Meta 近日发布了开源权重模型 Muse Spark Open,该模型拥有 8160 亿总参数(420 亿激活参数)及 100 万 token 的上下文窗口。Meta 称其为“迄今为止最具能力的美国开源权重模型”,主要面向编程和智能体任务,擅长处理长周期任务、多步推理及软件工程。

双机协同承载1TB统一内存

为了在本地高效运行这一大模型,Muse Spark Open 针对 Mac Studio 进行了优化,利用 Apple 的 MLX 框架,可在两台配备 512GB 内存的 M5 Ultra Mac Studio 上协同工作。Meta 表示,这种组合是“在自有桌面上运行强大模型的最佳方式”。

根据 Meta 的技术说明,Apple 的统一内存架构允许 M5 Ultra 芯片中的集成 GPU 每台设备使用高达 512 GB 的内存,这使得两台机器能够共同承载整个模型。此外,该芯片具备 1.2 TB/s 的内存带宽,足以快速读取每个 token 所需的小部分数据。通过这种配置,两台 Mac Studio 能够像一台拥有 1 TB 统一内存的超级计算机一样运作。

目前,Apple 尚未正式发售 512GB 版本的 Mac Studio,但预计将于本月晚些时候推出。鉴于现有的 256GB 版本 Mac Studio 售价已超过 10,000 美元,新机型的价格预计将相当高昂。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读