一起港湾»AI港湾 › AI+ › AI应用开发 › 用mac跑本地大模型的试试这个项目：omlx

返回列表发新帖

查看: 98|回复: 0

用mac跑本地大模型的试试这个项目：omlx

12 主题	0 回帖	46 积分

积分: 46

发消息

发表于 2026-3-10 10:41:48 | 显示全部楼层 |阅读模式

用mac跑本地大模型的试试这个项目：omlx

github.com/jundot/omlx/
据说特别适合小龙虾这种上下文很长的场景，可以大幅提速。不知道效果有没有那么神奇。
##

相关帖子

回复

返回列表发新帖

关注公众号

Archiver|手机版|小黑屋|一起港湾 - AI技术分享社区

相关侵权、举报、投诉及建议等，请发 E-mail：2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖

关注公众号