4 块钱、两 小时,64M 小模型从零训出来,我一开始是当营销话术看的,直到自己把 MiniMind 的 trainer 目录翻了一遍。

4 块钱、两 小时,64M 小模型从零训出来,我一开始是当营销话术看的,直到自己把 MiniMind 的 trainer 目录翻了一遍。

预训练、SFT、LoRA、DPO、PPO/GRPO、Tool Use、Agentic RL,全是原生 PyTorch 手写的,没套 trl/peft 那层壳。结构对齐 Qwen3,我自己在 3090 上粗估了一下,mini 数据组合跑完 1 epoch 差不多就是两个多小时,租卡成本确实压在个位数。

对比两年前的 nanoGPT,那玩意儿更像教学 demo;而市面上大部分教程又只停在推理和 LoRA 微调。

MiniMind 是少数把后训练整条链路摊开给你看的仓库,想搞清楚大模型到底怎么练出来的,从这儿下手比看视频课实在。

🔗https://github.com/jingyaogong/minimind



分类