开源大模型运行库 llama.cpp 联合高通工程师，让 2 比特 Q2_K 压缩模型首次支持 OpenCL（通用计算标准）显卡运行。

Rcpchina

开源大模型运行库 llama.cpp 联合高通工程师，让 2 比特 Q2_K 压缩模型首次支持 OpenCL（通用计算标准）显卡运行。

北京时间 2026-10-25 17:09 发布的 b11873 版本中，开发团队合并了高通工程师提交的计算组件。此前该平台缺少适配，此类模型文件在 OpenCL 上要么无法运行，要么只能退回 CPU 运算。项目维护者评论称，这让 K 系列压缩格式的覆盖几乎完整。

不过这批计算组件主要面向高通 Adreno 显卡编写，AMD 和 Intel 显卡走该路径能否同样受益尚无实测，官方发布说明也未给出任何速度提升数据。

https://github.com/ggml-org/llama.cpp/releases/tag/b11873