想在自己电脑上跑参数量上千亿的大模型,以前基本没戏,显存装不下,勉强跑起来也慢得没法正常对话。
荷尔蒙暴民 2026-11-13 22:09:44
每台主机均配备 2 块 RTX Pro 5000、一颗 AMD 9995WX 处理器以及 512 GB DDR5 ECC 内存。
怂刚怂刚的 2026-11-13 20:47:28
“夜景模式”好像把它误认成大楼了,笑死。
成鸿 2026-11-12 22:16:19
这个木制服务器机架终于搬到了它(目前)的最终安身之所。
lxi4509 2026-11-12 22:15:10
本地运行大模型(LLM)的常见情况
xiaoling 2026-11-12 22:03:46