查看: 8|回复: 0

[大模型部署] 🤯越狱 PS5 在跑 Qwen。 PS5LM 把 llama.cpp 搬上主机 GPU。Qwen3.5-9B 约 55 tok/s,Qwen3.8-27B 约 20 tok/s。手机电脑都能连。

[复制链接]

14

主题

1

回帖

44

积分

新手上路

积分
44
发表于 5 小时前 | 显示全部楼层 |阅读模式
🤯越狱 PS5 在跑 Qwen。

PS5LM 把 llama.cpp 搬上主机 GPU。Qwen3.5-9B 约 55 tok/s,Qwen3.8-27B 约 20 tok/s。手机电脑都能连。

温馨提示:要越狱主机。你会拿闲置 PS5 试吗?

来源:GitHub cobanov/PS5LM👇
https://github.com/cobanov/PS5LM




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部