LLM 微调,普通人电脑就玩不转?Unsloth 连桌面端 App 都端出来了。


LLM 微调,普通人电脑就玩不转?Unsloth 连桌面端 App 都端出来了。

它专攻消费级 GPU 上的模型微调,官方说法是训练最高提速 2 倍,显存省下约 70%。

① Qwen、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 等模型都在支持之列
② LoRA、QLoRA、全量微调、RL、GRPO、DPO、FP8 统统安排
③ Windows、macOS、Linux 通吃,AMD、Intel GPU 也能用
④ 可导出 GGUF、FP8,还自带 OpenAI 兼容 API
⑤ 直接能给 Claude Code、Codex 等 Agent 当本地推理后端
从训练到部署基本本地就能搞定,想自己折腾模型的,这个值得留意。
🔗 https://github.com/unslothai/unsloth


分类