https://github.com/kunpengtalk/OmniStudio
模型市集基于 ModelScope 搜索并支持 GGUF、safetensors 等全格式下载，带队列并发、断点续传与能力分类；推理侧统一抽象 llama.cpp、vLLM、SGLang 三引擎并可热切换，同时内置 20 家 OpenAI 兼容云厂商预设与远程端点直连。
把本地大模型的下载、推理服务运行和对话、语音、图片、视频、OCR、翻译等应用收进一个桌面工作台，免去在多个工具之间来回切换，全程本地优先。
把本地大模型的下载、推理服务运行和对话、语音、图片、视频、OCR、翻译等应用收进一个桌面工作台，免去在多个工具之间来回切换，全程本地优先。
https://github.com/kunpengtalk/OmniStudio
模型市集基于 ModelScope 搜索并支持 GGUF、safetensors 等全格式下载，带队列并发、断点续传与能力分类；推理侧统一抽象 llama.cpp、vLLM、SGLang 三引擎并可热切换，同时内置 20 家 OpenAI 兼容云厂商预设与远程端点直连。
https://github.com/kunpengtalk/OmniStudio
模型市集基于 ModelScope 搜索并支持 GGUF、safetensors 等全格式下载，带队列并发、断点续传与能力分类；推理侧统一抽象 llama.cpp、vLLM、SGLang 三引擎并可热切换，同时内置 20 家 OpenAI 兼容云厂商预设与远程端点直连。