查看: 12|回复: 0

社区用户在华硕设备实测,运行Qwen3.8-Flash-Next模型时gufo出字达42–49词元/秒,高于llama.cpp的20–23词元/秒。

[复制链接]

14

主题

0

回帖

42

积分

新手上路

积分
42
发表于 昨天 22:29 | 显示全部楼层 |阅读模式
社区用户在华硕设备实测,运行Qwen3.8-Flash-Next模型时gufo出字达42–49词元/秒,高于llama.cpp的20–23词元/秒。

北京时间10月26日,有用户在社区发布测试,使用配置128GB统一内存的华硕ROG Flow Z13,对比了私有软件Halogen、开源引擎gufo与llama.cpp运行同一批模型文件的实际表现。

发帖人实测显示,出字速度上Halogen为51–60词元/秒,gufo为42–49词元/秒,llama.cpp仅20–23词元/秒;跑完同一组17道编程题,gufo耗时136分钟,llama.cpp耗时359–415分钟。

但该测试为个人单机单次运行,且llama.cpp采用的是第三方分支而非官方正式版;同时Halogen为私有格式,模型文件无法在常见系统中通用。

https://www.reddit.com/r/LocalLL ... loth_on_strix_halo/

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部