查看: 79|回复: 0

一个能帮你找适合你电脑的本地模型的工具:llmfit ,一条命令告诉你你的配置能跑什么模型,跑得有多快

[复制链接]

13

主题

0

回帖

39

积分

新手上路

积分
39
发表于 2026-3-13 05:58:42 来自手机 | 显示全部楼层 |阅读模式
一个能帮你找适合你电脑的本地模型的工具:llmfit ,一条命令告诉你你的配置能跑什么模型,跑得有多快

里面已经写好了专门给OpenClaw的技能,给龙虾即能用

它能自动检测硬件(CPU、内存、GPU等),内置200+模型数据,从质量、速度、适配度、上下文窗口四个维度评分,根据你的硬件和使用场景自动推荐综合最优的模型

支持动态量化选择,比如同一个模型有多种量化版本,自动选你的硬件能承载的最高精度版本

还支持反向查询(Plan模式),输入模型名称,反推跑这个模型需要什么硬件

llmfit相当于一个本地模型选品顾问,模型太多不知道选哪个的,可以用它扫一下,直接拿方案,省得下载后发现跑不动

github:http://t.cn/AXtQE2V1

##
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部