4 块钱、两 小时，64M 小模型从零训出来，我一开始是当营销话术看的，直到自己把 MiniMind 的 trainer 目录翻了一遍。

提笔风雅

4 块钱、两 小时，64M 小模型从零训出来，我一开始是当营销话术看的，直到自己把 MiniMind 的 trainer 目录翻了一遍。

预训练、SFT、LoRA、DPO、PPO/GRPO、Tool Use、Agentic RL，全是原生 PyTorch 手写的，没套 trl/peft 那层壳。结构对齐 Qwen3，我自己在 3090 上粗估了一下，mini 数据组合跑完 1 epoch 差不多就是两个多小时，租卡成本确实压在个位数。

对比两年前的 nanoGPT，那玩意儿更像教学 demo；而市面上大部分教程又只停在推理和 LoRA 微调。

MiniMind 是少数把后训练整条链路摊开给你看的仓库，想搞清楚大模型到底怎么练出来的，从这儿下手比看视频课实在。

🔗https://github.com/jingyaogong/minimind