Ollama 功能确实齐,可要说只想让本地模型火速跑起来,是不是有点小题大做?

Ollama 功能确实齐,可要说只想让本地模型火速跑起来,是不是有点小题大做?Shimmy 走了条更轻的路——Rust 打造,整包 5MB 上下,启动不足 100ms,内存约 50MB。

① 单个文件就能运行,下完基本直接开用
② 端口自动分配,配置这活儿不用管
③ 自带 OpenAI 兼容 API
④ Hugging Face、Ollama 和本地模型都能自动扫出来
⑤ 体积小、启动快,老机器也吃得消
嫌本地模型工具太笨、就想要个打开即跑的,不妨试它一把。
🔗 https://github.com/Michael-A-Kuykendall/shimmy



分类