苦尽甘没来 发表于 2026-9-25 11:00:17

inco ai发布了他们开源的本地推理引擎Inco Splash

inco ai发布了他们开源的本地推理引擎Inco Splash，在M5 Max MacBook Pro 上运行Qwen3.8-27B，解码速度达到144 tokens/s ，解码速度最高可达 Ollama 的 3 倍，oMLX 的 2 倍，多智能体速度接近 4 倍。 http://t.cn/AXOWe0hH ​​​
页: [1]
查看完整版本: inco ai发布了他们开源的本地推理引擎Inco Splash