腾讯推出的 Hy-MT2-1.8B-GGUF,主打轻量级翻译:1.8B 参数,支持 33 种语言互译,还能通过 llama.cpp 本地运行。 小武子灬 2026-10-14 19:50:46 腾讯推出的 Hy-MT2-1.8B-GGUF,主打轻量级翻译:1.8B 参数,支持 33 种语言互译,还能通过 llama.cpp 本地运行。 它支持术语约束、文风控制,以及 JSON、字幕等格式指令。1.25-bit 量化后约 440MB,系列另有 7B 和 30B-A3B 版本。 注意:官方 GGUF 依赖 llama.cpp 的 STQ kernel(PR #22836),不是随便下载一个量化版本就能运行。采用 Apache-2.0 许可证,实际翻译效果建议自己测试。 🔗 模型地址:https://huggingface.co/tencent/Hy-MT2-1.8B-GGUF