自己微调 LLM,最劝退的常常不是训练本身,而是环境配置那一关。

自己微调 LLM,最劝退的常常不是训练本身,而是环境配置那一关。

Soup 把流程砍到只剩三步:

pip install "soup-cli" → soup init --template chat → soup train

一份 YAML 配置文件就把训练交代清楚。

1️⃣ 聊天、代码、推理、视觉、RLHF 等多种模板都支持
2️⃣ 靠 Layer Streaming 压低显存占用
3️⃣ 4GB 显存也敢试着微调 8B 模型
4️⃣ 训完能导出 GGUF,直接对接 Ollama,也能推上 Hugging Face
更有意思的是:它把原本一堆服务器、驱动和参数调试的活儿,尽量收进了一个 CLI 工作流里。
想折腾自家模型,门槛一下低了不少。
🔗 https://github.com/MakazhanAlpamys/Soup

分类