英伟达推出RTX Spark芯片,给Windows PC装上了128GB统一内存。有人觉得这只是跟风苹果,但其实英伟达和微软正在联手给云端订阅制AI挖坑。
对本地大模型来说,容量比速度更致命。32GB的顶级显卡再快,装不下模型也是白搭。128GB统一内存虽然带宽高低有争议,但它打破了显存焦虑,让百亿甚至千亿参数模型在本地跑起来。
这就是为什么微软开始高喊“无限制智能”。他们看准了用户对高昂API和隐私泄露的厌倦。把AI算力一次性买断放进自家电脑,不给云端巨头交月租,这才是个人计算的未来。
x.com/lemire/status/2062880075117113739