找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 2|回复: 0

用mac跑本地大模型的试试这个项目:omlx

[复制链接]

11

主题

0

回帖

43

积分

新手上路

积分
43
发表于 9 小时前 | 显示全部楼层 |阅读模式
用mac跑本地大模型的试试这个项目:omlx

github.com/jundot/omlx/
据说特别适合小龙虾这种上下文很长的场景,可以大幅提速。不知道效果有没有那么神奇。
## ​​​
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|一起港湾 ( 青ICP备2025004122号-1 )

GMT+8, 2026-3-10 19:59 , Processed in 0.181644 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表