查看: 5|回复: 0

[LLM/大模型] 🔥无敌啊!DeepSeek V4.1 Flash 1017 Unsloth Dynamic v3.1 量化版横扫 Agentic 基准,1-bit 直接碾压对手10%+!

[复制链接]

22

主题

0

回帖

66

积分

注册会员

积分
66
发表于 4 小时前 | 显示全部楼层 |阅读模式
🔥无敌啊!DeepSeek V4.1 Flash 1017 Unsloth Dynamic v3.1 量化版横扫 Agentic 基准,1-bit 直接碾压对手10%+!

@UnslothAI
这波量化直接把最强开源模型拉到本地可跑级别,512K 长上下文 Agent 任务全面领先:
🔹DeepSWE v1.1(512K):1-bit Unsloth 打到 68.1,远超其他量化方案(整体领先 >10%)
🔹Terminal Bench 2.1:Unsloth 最高 74.4,紧贴甚至超越 8-bit 基线(72.6)
🔹Automation Bench v1.0.6:峰值 55.3,明显压过 GSQ-RCO
🔹Aider Polyglot(128K):Unsloth 稳定在 86+ 高位,几乎无损接近基线 85.8

硬核亮点:
🔹Dynamic v3.1 算法全面优于其他量化(GSQ-RCO 等),KL 更低、准确率更高
🔹1-bit 体积从 508GB 砍到约 250GB,128GB+ RAM 就能跑(Engram SSD 卸载)
🔹Unsloth 推理最高 3x 加速,1M 上下文 + 极致 Agent 能力本地化
🔹定位:当前最强开源模型的最佳本地量化版

GGUF 直链:https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF

详细指南:https://unsloth.ai/docs/models/deepseek-v4.1-flash

#

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部