堆显卡时代快要结束?训练大模型的成本,正在疯狂暴跌

堆显卡时代快要结束?训练大模型的成本,正在疯狂暴跌

很多人以为AI竞争,就是不停买显卡、堆算力烧钱。但Anthropic这张路演图,直接推翻了这个固有认知,也是内部员工看完选择离职的原因。
简单说:同样的效果,训练大模型需要的算力,下降速度快到离谱,是超指数级变省钱。
Mythos模型不是一次运气爆发的成果,只是这个大趋势里的一站。过去要花巨大算力才能训出来的模型,现在只用原来几分之一的算力,就能复刻出来。
更关键的一点:这种算法优化,以后不一定靠顶尖天才熬夜苦想,算法本身可以自动迭代优化。
未来几个现实变化:
1、大模型不再是巨头专属游戏,中小团队、普通公司,用不多的算力,也能训出不错的模型;
2、显卡军备竞赛会降温,单纯囤GPU不再是制胜底牌,算法效率权重越来越高;
3、AI落地成本快速下探,各类行业AI应用会加速铺开,速度远超大家预想。
当然不是说只靠代码就能变出超级智能,硬件投入依旧重要,但赛道的游戏规则,已经悄悄改写了。
分类