💥16G 的 5080 跑千问3.8，更高量化不一定更快
民间编诗人 2026-10-30 10:42:16
某位工程师的家庭实验室 💀
快乐虎 2026-10-30 09:50:01
💥Qwen3.8-27B 的 BF16，48GB 显卡都装不下
晶莹之水滴 2026-10-30 01:39:04
太弱了……得要那个大家伙 5070Ti 才行……
nxwqwt 2026-10-30 01:37:15
在使用 qwen3.8-flash-next-iq3_s 模型（配置 128K 上下文窗口）执行一项消耗了 35,471 个 token 的任务时，平均处理速度为 140.1 token/s。
展菲 2026-10-30 01:32:06