💥两台 Mac 串起来,Qwen3.8-Flash-Next 预填充 1309→3666 tok/s。

💥两台 Mac 串起来,Qwen3.8-Flash-Next 预填充 1309→3666 tok/s。

oMLX Prefill Accelerator:大内存机扛模型,M5 Max 只加速预填充,64K 约 +180%。Decode 不变。

温馨提示:开发版;作者本机。

来源:GitHub oMLX👇
https://github.com/jundot/omlx/releases/tag/v0.7.4.dev1



分类