[大模型部署] 使用本地大语言模型(LLM)时的常见体验:

[复制链接]
发表于 昨天 10:23 | 显示全部楼层 |阅读模式
使用本地大语言模型(LLM)时的常见体验:

・运行速度已经足够快了
・但你心想:“能不能再聪明一点呢?”
・于是你尝试了更大的模型
・又尝试调整了量化参数
・可你还是觉得:“就差那么一点,总感觉还不够理想”
・最终,你又踏上了寻找下一个模型的旅程

归根结底,下一个要跨越的门槛是“智能”水平,而非运行速度。


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部