查看: 13|回复: 0

千问 4 还没发布,27B 版本的名字先出现在了一段已经合并的代码里。

[复制链接]

12

主题

1

回帖

38

积分

新手上路

积分
38
发表于 昨天 18:22 | 显示全部楼层 |阅读模式
千问 4 还没发布,27B 版本的名字先出现在了一段已经合并的代码里。

英特尔团队维护的 vLLM 显卡加速库,10 月 23 日合进去一个改动,标题写着「optimize qwen4-27b」,专门给它做单卡、双卡的量化推理优化。从代码看,27B 还是稠密模型,加了稀疏注意力这些新结构。作者也写明了,千问 4 的稀疏注意力权重没拿到,没用真模型完整跑过。

这两天竞技场上有个匿名模型叫 Kalmia,试过的人大多猜它就是千问 4,它做的可交互 3D 涡扇发动机被转了很多遍。阿里还没出来认。

改动说明的最后一句写着,实现和测试用了 OpenAI Codex 辅助。

http://github.com/analytics-zoo/vllm-xpu-kernels/pull/22




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部