找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 1|回复: 0

一个能帮你找适合你电脑的本地模型的工具:llmfit ,一条命令告诉你你的配置能跑什么模型,跑得有多快

[复制链接]

11

主题

0

回帖

33

积分

新手上路

积分
33
发表于 1 小时前 来自手机 | 显示全部楼层 |阅读模式
一个能帮你找适合你电脑的本地模型的工具:llmfit ,一条命令告诉你你的配置能跑什么模型,跑得有多快

里面已经写好了专门给OpenClaw的技能,给龙虾即能用

它能自动检测硬件(CPU、内存、GPU等),内置200+模型数据,从质量、速度、适配度、上下文窗口四个维度评分,根据你的硬件和使用场景自动推荐综合最优的模型

支持动态量化选择,比如同一个模型有多种量化版本,自动选你的硬件能承载的最高精度版本

还支持反向查询(Plan模式),输入模型名称,反推跑这个模型需要什么硬件

llmfit相当于一个本地模型选品顾问,模型太多不知道选哪个的,可以用它扫一下,直接拿方案,省得下载后发现跑不动

github:http://t.cn/AXtQE2V1

##
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|一起港湾 ( 青ICP备2025004122号-1 )

GMT+8, 2026-3-13 07:45 , Processed in 0.143572 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表