查看: 5|回复: 0

自己搭个本地 AI 服务器,以前有多费劲你心里有数:Ollama、Open WebUI、n8n、ComfyUI 一个个装、一个个接,装到怀疑人生。

[复制链接]

17

主题

1

回帖

53

积分

注册会员

积分
53
发表于 3 小时前 | 显示全部楼层 |阅读模式
自己搭个本地 AI 服务器,以前有多费劲你心里有数:Ollama、Open WebUI、n8n、ComfyUI 一个个装、一个个接,装到怀疑人生。

现在有个东西叫 ODS,一条命令全给你装利索、连好,还会照着你的硬件自动挑模型,装完打开 localhost:3000 就能直接开聊。

我觉得最爽的是这几点:
1️⃣ 模型跑在本地,prompt 和数据全在自己机器上,不上云
2️⃣ 一个面板管模型、服务、GPU 状态
3️⃣ 语音、agent、工作流、RAG、出图全都打包好了
4️⃣ 没显卡也成,能切云端 API 模式
不用订阅,不用云,Linux、Mac、Windows 都支持。想折腾私有 AI 的,这个省事。
🔗 https://github.com/Osmantic/ODS


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部