老黄（NVIDIA）看了都要连夜报警的程度 😭 国外有个老哥把越狱的 PS5 爆改成了本地 AI 服务器

张国远

老黄（NVIDIA）看了都要连夜报警的程度 😭

国外有个老哥把越狱的 PS5 爆改成了本地 AI 服务器
不仅做成了 PS5 原生 App
甚至能用手柄直接在电视上逛 Hugging Face 下模型

最离谱的是性能：
跑阿里最新的 Qwen 27B 大模型，速度居然有 20 tok/s
跑 Llama 3.2 3B 直接飙到 124 tok/s
要知道 PS5 可是有 16GB GDDR6 统一大显存（带宽 448GB/s） 二手只要两三千块

以前买 PS5 的理由：“老婆，这是路由器”
现在买 PS5 的理由：“老婆，我在客厅部署了一台本地 AI 算力工作站，用来搞科研的”
你们那台用来盖泡面的 PS5，终于找到正经工作了 💀

快乐晴天娃娃

作者通过移植 RADV 驱动打通了 Vulkan GPU 加速，并做成了原生 App：

• 直接解锁 11.4 GiB 可用 GDDR6 高速内存（448 GB/s 带宽）
• Qwen 27B (IQ2_XXS) 👉 ~20 tok/s
• Gemma 4 E4B 👉 ~61 tok/s
• Llama 3.2 3B 👉 ~124 tok/s

这生成速度，平时拿来写代码、跑本地 Agent 完全是丝滑可用的状态。