💥千问3.8-27B,有人把接近 BF16 的量化压到 18.9GB叫 SLQ,统计无损量化。相对 BF16,top10 token 概率重合约 98%(EAR@10)。三档:18.9GB / 20.7GB / 23.7GB。纯文本,视觉塔砍掉了,MTP 还在。温馨提示: ...
关注公众号相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com
Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1