💥 16GB 显存,硬啃到 26 万上下文。 RTX 5080 + 128GB,Strata 跑 Qwen3.8-Flash-Next 125B(IQ3_S)。到 258K 还约 101.8 tok/s,没卡死。

💥 16GB 显存,硬啃到 26 万上下文。

RTX 5080 + 128GB,Strata 跑 Qwen3.8-Flash-Next 125B(IQ3_S)。到 258K 还约 101.8 tok/s,没卡死。

温馨提示:作者自测。你会拿 16GB 卡试吗?

来源:
@M_Lililab
👇


分类