社区用户在华硕设备实测,运行Qwen3.8-Flash-Next模型时gufo出字达42–49词元/秒,高于llama.cpp的20–23词元/秒。

社区用户在华硕设备实测,运行Qwen3.8-Flash-Next模型时gufo出字达42–49词元/秒,高于llama.cpp的20–23词元/秒。

北京时间10月26日,有用户在社区发布测试,使用配置128GB统一内存的华硕ROG Flow Z13,对比了私有软件Halogen、开源引擎gufo与llama.cpp运行同一批模型文件的实际表现。

发帖人实测显示,出字速度上Halogen为51–60词元/秒,gufo为42–49词元/秒,llama.cpp仅20–23词元/秒;跑完同一组17道编程题,gufo耗时136分钟,llama.cpp耗时359–415分钟。

但该测试为个人单机单次运行,且llama.cpp采用的是第三方分支而非官方正式版;同时Halogen为私有格式,模型文件无法在常见系统中通用。

https://www.reddit.com/r/LocalLLaMA/comments/1xfrek0/qwen38flashnext_swift_15_vs_unsloth_on_strix_halo/

分类