查看: 8|回复: 0

💥 16GB 显存,硬啃到 26 万上下文。 RTX 5080 + 128GB,Strata 跑 Qwen3.8-Flash-Next 125B(IQ3_S)。到 258K 还约 101.8 tok/s,没卡死。

[复制链接]

13

主题

1

回帖

41

积分

新手上路

积分
41
发表于 4 小时前 | 显示全部楼层 |阅读模式
💥 16GB 显存,硬啃到 26 万上下文。

RTX 5080 + 128GB,Strata 跑 Qwen3.8-Flash-Next 125B(IQ3_S)。到 258K 还约 101.8 tok/s,没卡死。

温馨提示:作者自测。你会拿 16GB 卡试吗?

来源:
@M_Lililab
👇


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部