Ollama功能全,但想更快跑起本地模型,可以看看更轻的选择。Shimmy 用 Rust 写成,整个程序才 5MB 左右,启动不到 100ms,内存约 50MB。① 单文件运行,下载完基本就能用② 端口自动分配,配置不用折腾③ 自带 ...
关注公众号相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com
Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1