开发者 abhi245y 已在 GitHub 发布开源项目 PS5LM Plus，把越狱后的 PS5 变成本地 AI 服务器。该项目以原生 App 形式在 PS5 上运行 llama.cpp，并直接调用主机 GPU。用户可以在电视上用手柄浏览 Hugging Face 上的模型，下载后加载；局域网内的其他电脑也可以通过 API 调用这台主机上的模型服务。
这一项目近日在社区广泛传播，不过不少转载版本省略了量化方式和越狱前提等关键条件。
原生 App 方案带来 GPU 与更大可用内存
PS5LM Plus 是基于 PS5LM 的 fork 版本，后者由 Mert Cobanov 开发。按照原项目网站说明，初版是以 payload 形式在越狱后的 PS5 上运行，只能使用 CPU，模型大小上限约为 1.6 GB。
abhi245y 在 README 中表示，payload 方式只能获得约 6 GiB 内存，且无法调用 GPU；改为原生 App 后，则可以使用主机 12 GiB 的直接内存和 GPU。推理后端采用 ggml 的 Vulkan 后端，并配合社区开发者 Mihawk-99 移植到 PS5 的开源 RADV 驱动，模型和缓存共用一块 11.44 GiB 的内存区域。
实测数据：27B 模型约 20 tok/s，3B 模型达 124 tok/s
开发者给出的实测结果显示，Qwen3.8-27B 的 UD-Q2_K_XL 量化版，模型大小为 9.2 GiB、上下文长度 32k，生成速度约为 20.3 tok/s；UD-IQ2_XXS 量化版大小为 6.8 GiB、上下文长度 64k，速度约为 20.7 tok/s。
此外，Gemma 4 E4B 约为 61 tok/s；Llama 3.2 3B Instruct Q4_K_M，模型大小 1.9 GiB，约为 124 tok/s。作为对比，同一个 27B 模型如果通过 payload 形式仅用 CPU 运行，每分钟大约只能输出 1 个 token。
限制条件：依赖 2-bit 量化，长提示读入较慢
项目能装入 PS5 的 27B 模型，是约 2-bit 的重度量化版本，其精度低于常见的 4-bit 或 8-bit 版本。XenoSpectrum 整理的信息显示，开发者的连接说明文档写到，27B 模型读入输入内容的速度只有每秒约 35 至 50 token。如果提示词较长，首个回复可能需要等待数分钟。
使用门槛也不低。项目只支持固件版本 7.00 至 13.60 的越狱 PS5，且需要事先加载 kstuff-lite、etaHEN 与 ShadowMountPlus 等 payload。项目本身不附带任何 Sony SDK、密钥或模型权重。
由于越狱意味着让主机运行未经 Sony 签名的程序，这不属于 Sony 支持的使用方式，可能影响保修与在线服务权益，用户需要自行评估风险。
16GB GDDR6 与统一内存架构成为关键
根据 PlayStation 官方博客公布的规格，PS5 搭载 AMD Zen 2 八核 CPU、RDNA 2 架构 GPU，以及 CPU 与 GPU 共用的 16GB GDDR6 内存，带宽为 448GB/s。
大型语言模型在生成文本时，每输出 1 个 token 都需要读取一遍模型权重，因此内存带宽往往是生成速度的主要瓶颈。BlockTempo 文中提到，高带宽的统一内存，是这台 2020 年推出的游戏主机能够跑出可用生成速度的原因。
现阶段更像技术展示，而非正式工作站替代品
报道指出，这一实验也反映出本地 AI 正在向消费级硬件扩散，从高端 Mac 到游戏主机，开发者与玩家正尝试把开源模型从云端搬到本地设备上运行。
不过，PS5LM Plus 目前仍是一个需要越狱环境的爱好者项目。2-bit 量化带来的限制，以及长提示读入较慢的问题都较为明显。就现阶段而言，它更适合作为技术展示，而不是正式 AI 工作站的替代方案。