1400 元出头捡垃圾 X99 平台,搭配 P100 计算卡,完整装机 + Ubuntu 部署 Strata,本地跑 Qwen3.8-Flash-Next IQ3 量化版本。
实测平均 30+ token/s,峰值可达 50token/s,可以跑 AI Agent 任务,生成 3D 场景等。
客观说明:P100 的 prefill 速度偏弱,这套方案更适合 Strata,对其他大模型兼容性一般。
硬件清单:X99D3 魔改主板、E5-2673 V3、DDR3 服务器内存、M.2 固态、P100 计算卡。 后续会继续测试 P40、V100 在这套 X99 平台上的推理性能,感兴趣可以关注。
https://www.youtube.com/watch?v=P-UEhSTB7l8