一起港湾»AI港湾 › AI 进阶与开发 › AI 硬件与部署 › 2B能跟12B掰手腕，放两年前不敢想。
返回列表 发新帖
查看: 6|回复: 0

2B能跟12B掰手腕，放两年前不敢想。

[复制链接]
低调点现实点

14

主题

1

回帖

44

积分

新手上路

积分
44
发表于 1 小时前 | 显示全部楼层 |阅读模式
2B能跟12B掰手腕，放两年前不敢想。
最实用的是4bit才1个G，老手机都能塞，256K上下文对端侧是真解渴。
已拉权重，周末拿家里那台8G旧本子跑个离线助手试试成色，行的话单位旧设备全员复活

本帖子中包含更多资源

您需要 登录 才可以下载或查看，没有账号？立即注册

×
回复

举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号
Archiver|手机版|小黑屋|一起港湾 - AI技术分享社区

相关侵权、举报、投诉及建议等，请发 E-mail：2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部