苹果用闲置Mac构建虚拟GPU云缓解AI算力瓶颈

苹果推出“Minions”系统,将闲置Mac整合为虚拟GPU云。该方案利用Apple Silicon芯片处理AI推理任务,有效缓解了部分工作负载在GPU队列中停滞超10小时的瓶颈,实现了零新增硬件成本的算力扩展。

苹果内部系统“Minions”利用闲置 Mac 构建虚拟 GPU 云以缓解 AI 算力瓶颈

据苹果研究人员在 arXiv 发表的论文及苹果机器学习研究网站披露,苹果内部正在使用一套名为“Minions”的系统。该系统将闲置的 Mac 设备整合为“虚拟 GPU 云”,旨在优化人工智能工作负载的管理。通过分发网络上的 Mac 资源,该方案有效解决了部分 AI 任务在公司 GPU 队列中停滞超过 10 小时的问题。

Minions系统利用闲置Mac资源

尽管这一分布式计算架构显著提升了效率,但研究人员也指出,在非团队专属设备上运行数据引发了关于隐私和安全的担忧。

系统架构与运行机制

“Minions”系统由三个核心组件构成:Minion Server(迷你服务器)、Minion Executor(迷你执行器)和 Minion Watchdog(迷你看门狗)。该系统专门依赖 Apple Silicon 芯片进行 AI 推理,主要处理两类任务:

  • 基于开源 Hugging Face Transformer 模型的嵌入任务;
  • 通过安装在每台参与 Mac 上的 Ollama 软件,从大型语言模型生成文本。

在工作流程上,Minion Server 负责将提交的任务拆分为子任务,并存储于 PostgreSQL 数据库中。每台 Mac 上运行的 Minion Executor 采用基于 Pull(拉取)的执行模型,无需中央调度器即可从 REST API 获取下一个子任务。Mac 设备从 Amazon S3 读取输入数据,按需抓取模型,在本地 GPU 上完成计算后,再将结果返回至 S3。

(图片来源:Apple)

系统通过每五分钟发送一次的心跳信号来追踪在线工作的 Mac。若子任务未完成且设备进入休眠、断网、关机或用户主动停止执行程序以恢复控制权,这些任务将重新回到队列中。设备所有者可通过“动态任务绑定”功能优先处理特定团队或项目的工作,或者默认采用“先进先出”策略。

技术特点与成本效益

据了解,每台 Mac 在执行任务时均加载完整的模型。对于拥有统一内存架构的 Mac 硬件而言,独立运行完整模型并非难事。这种志愿者计算模式让人联想到 SETI@home 和 Folding@home,其核心逻辑是将小型计算块分发至闲置机器。

论文指出,除了缩短 GPU 队列等待时间外,“Minions”系统的另一大优势在于基础设施成本为零,因为请求无需新增专用 GPU 资源,且扩展过程从手动配置转变为有机增长。不过,该结论未计入电力消耗及硬件磨损带来的隐性成本。

背景:算力供应紧张与安全考量

参与该计划属于非正式性质,团队成员例如可以通过 Slack 消息邀请同事临时运行 Minion Executor 以支持特定项目。针对机密性问题,苹果计划通过限制部署范围(如仅限团队或组织内部),并使用独立的数据库和 Mac 池来进行缓解。

这篇论文的发布正值计算资源成为 AI 工作负载瓶颈之际。苹果在 7 月的最新季度文件中承认,在一个供应有限、交付时间延长且成本上升的生态系统中,获取足够的计算资源面临挑战。即便依靠自有数据中心和第三方云提供商,确保足够容量仍存在风险,这使得“Minions”这类利用现有设备的方案更具实用性。

此外,苹果用于处理复杂请求的私有云计算服务(Apple Intelligence 后端)目前也在 Google Cloud 的 Nvidia GPU 上运行,这一合作在 6 月的 WWDC 上首次宣布。早在 4 月,首席执行官蒂姆·库克(Tim Cook)曾表示,Mac mini 和 Mac Studio 的供应可能需要数月才能赶上需求。7 月的财报电话会议进一步提及了先进制程节点的限制以及内存成本的持续增加。

未来展望

作者表示,未来的工作方向是将“Minions”系统扩展至分布式模型训练领域。更广泛地看,如果整个组织乃至全球社区的闲置 Mac 能够被“安全联合”,它们有望形成一个共享的 GPU 池。但目前,这一能力仅局限于苹果内部。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读