本地运行大模型(LLM)的常见现象: ・“先下载这一个模型试试” ・在等待下载完成时,又看中了另一个模型 ・回过神来,发现SSD的剩余空间已经变少了

[复制链接]
发表于 昨天 23:05 | 显示全部楼层 |阅读模式
本地运行大模型(LLM)的常见现象:
・“先下载这一个模型试试”
・在等待下载完成时,又看中了另一个模型
・回过神来,发现SSD的剩余空间已经变少了
・心想“换个量化版本应该就行了”,于是又下载一个
・把整理模型文件的事儿往后推
・因为存储空间不足,又开始琢磨着找新的SSD了

结果就是,每次尝试新模型,存储空间总是先一步告急。


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部