Reddit 用户 u/AdIllustrious7246 近日发布了 PS5LM 分叉版本，实现了在已破解的 PlayStation 5 上通过 llama.cpp 端口本地运行大型语言模型（LLM）。该更新显著提升了性能，允许系统原生运行并利用 GPU 加速，使得 Qwen3.8-27B 等较大参数模型能以每秒约 20 个代币的速度生成文本。
从 CPU 载荷到 GPU 原生运行的突破
此前，GitHub 用户 cobanov 于 14 天前在 Reddit 发布了非官方版本的 llama.cpp。据 u/AdIllustrious7246 介绍，cobanov 的版本主要作为 CPU 载荷运行，这种模式本质上是劫持 CPU 指令以在主屏幕和系统服务旁插入 LLM。受限于硬件资源管理策略，该方案将 RAM 访问限制在约 6.25 GiB，若分配更多内存会导致主界面崩溃。尽管 cobanov 计划最终利用 GPU 以支持更大模型，但 u/AdIllustrious7246 的分叉版本率先实现了这一目标。
在一个破解的 PS5 的 GPU 上。我将 PS5LM 分叉并将其转化为本地应用程序
u/AdIllustrious7246 的实现依赖于 PS5_Vulkan，这是 RADV 图形驱动程序的一个移植版本。该项目开放了通常被锁定的 PS5 GPU 接口，使其能够像 PC GPU 一样接收指令。得益于这一底层驱动的支持，llama.cpp 得以在 PS5 上完全利用 GPU 算力并解锁更多内存资源。
性能表现与功能特性
在启用 GPU 加速后，不同规模模型的推理速度得到显著提升。数据显示，27B 参数模型可实现每秒 20 个代币的输出；较小规模的模型如 Gemma 4 E4B 和 Llama 3.2 3B 则分别达到每秒 61 和 124 个代币。相比纯 CPU 运行容易引发的系统卡顿和崩溃，GPU 在处理 LLM 任务时表现出更高的稳定性与效率。
原生运行模式还允许系统使用高达 11.4 GiB 的 RAM。开发者不仅优化了核心引擎，还集成了一套仪表板，实时显示每秒代币生成率、GPU 与 CPU 使用率、功耗、温度以及内存分配情况（包括模型权重与 KV 缓存的分割）。此外，该版本兼容 llama.cpp 的 WebUI，用户可通过浏览器从其他本地设备连接并与 PS5 上的 LLM 进行交互。
尽管这一技术展示了 PS5 在非游戏场景下作为人工智能助理的潜力，但其硬件配置仍受限于消费级定位。在当前大型 AI 数据中心对 GPU 和 RAM 需求激增的背景下，PS5 并非拥有最快 GPU 或最大内存的设备，其本地 AI 能力更多体现为一种技术可行性验证。
