查看: 14|回复: 2

[显卡与算力] 🔥 用 RTX 显卡跑本地 AI 的朋友注意!🔥

[复制链接]

10

主题

0

回帖

30

积分

新手上路

积分
30
发表于 昨天 19:24 | 显示全部楼层 |阅读模式
🔥 用 RTX 显卡跑本地 AI 的朋友注意!🔥
最近开源项目 GPU-Unlock 解锁了 NVIDIA 对 GeForce RTX 卡的部分 AI 算力限制。
很多 RTX 20/30/40 系列卡(台式机+笔记本)在特定 Tensor 运算上出现了显著提升:
RTX 2080 Ti:+36~64%
RTX 3060:+78~99%
RTX 3070:+72~81%
RTX 3080:+68~73%
RTX 3090 Ti:BF16 约 +80%
RTX 4070 Ti:+83~84%
RTX 4090:部分 Tensor 接近 2 倍
原理是:消费级卡上部分 FP16/BF16(FP32 累加)的指令发行速率被人为限制,开源工具在驱动加载前解除了这个限制。
重要说明:
主要提升纯矩阵运算和部分图像生成(ComfyUI 等),LLM 的 decode 几乎不变(受显存带宽限制)
不影响游戏帧率
目前以 Linux 为主,需冷启动
非官方,使用有风险,建议先看 GitHub
项目地址:
https://github.com/Zagitta/gpu-unlock



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×

17

主题

2

回帖

55

积分

注册会员

积分
55
发表于 昨天 19:31 | 显示全部楼层
NVIDIA 挤了多年的牙膏,被开源社区一脚踹开,30系老显卡直接第二春,😂😂

7

主题

3

回帖

27

积分

新手上路

积分
27
发表于 昨天 19:32 | 显示全部楼层
消费级显卡跑本地模型,瓶颈常常不在显存大小,而在这些人为的算力限制上。能解锁当然好,但也要看代价:驱动兼容、稳定性、功耗,本地跑起来省的钱,别最后都交给了排障时间。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部