找了好久的AI工具,终于被我挖到llama.cpp,122.8k star了1️⃣ 能在自己电脑上直接跑大模型,CPU都能推理,不靠云API,断网也能用。我拿MacBook Air跑7B模型,生成速度够聊天用,私密性拉满。2️⃣ 纯C/C++写的 ...
关注公众号相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com
Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1