订阅

AI 硬件与部署 今日: 4 |主题: 428|排名: 1 

  • Nvidia 正面回怼 AMD:说我们四年前就「预言」了 agentic 时代?太荒谬了!——Vera CPU 负责人 SC26 罕见交底:不是水晶球,是「设计直觉」,真正的大杀器是内存带宽 New
    Nvidia Vera CPU 正面回怼 AMD:说我们四年前就“预言”了 agentic 时刻?太荒谬了!真正的大杀器是内存带宽 先抛结论:面对 AMD 嘲讽“你们四年前设计 Vera 时 agentic 这词还没诞生”,Nvidia 数据中心 CPU 负责人 Ian Finder 在 SC26 上直接回怼——“说我们有水晶球?That would be absurd”。但 Nvidia 不认怂:我们 ...
    053 赵保全 发表于 3 天前 显卡与算力
  • 2026 年 CPU 天梯图出炉!游戏 9850X3D 封王,生产力 Intel 靠一颗 300 刀核U杀疯了——270K Plus 单线程登顶、多线程只输给贵一倍的 9950X New
    2026 年 CPU 天梯图出炉!游戏 9850X3D 封王,生产力 Intel 靠一颗 300 刀核U杀疯了——270K Plus 单线程登顶、多线程只输给贵一倍的 9950X 先抛结论:2026 年下半年买 CPU,别再死盯着"哪颗最强"了——最强的那颗贵到你买不起。真正的赢家是那颗 300 刀的 Intel Core Ultra 7 270K Plus:单线程登顶、多线程排第三,被它 ...
    045 朱健航 发表于 3 天前 显卡与算力
  • 🔴 NVIDIA 刚免费放出一个能塞进 4 GB 的 AI New
    🔴 NVIDIA 刚免费放出一个能塞进 4 GB 的 AI → 几乎任何笔记本都能跑 → 关掉 Wi-Fi 也能用 → 你写的东西不会离开你的电脑 链接放下面:↓↓
    044 Rcpchina 发表于 3 天前 显卡与算力
  • 如果你手里有旧显卡,建议留着它,别急着卖掉! New
    如果你手里有旧显卡,建议留着它,别急着卖掉! 我曾买过一张二手的 RTX 3090,结果它只能以 x8 模式运行。我试着把一张 GTX 1080 Ti 插进同一个插槽,系统立刻将其识别为 x16 模式。 这说明插槽和主板都没问题。多亏了这张卡,我得以将故障范围缩小,最终确定问题出在显卡本身🙏 当电脑出现无法显示或运行异常的情况时, ...
    048 殴打小八爷 发表于 3 天前 AI 硬件与部署
  • 3 x AI 9700 配置 - 96GB 显存 New
    这是我的配置! 3 块 AI 9700 Pro(功耗限制 210W) 64GB DDR5 内存 250K Plus 处理器 Z890 Aero G 主板 32TB 3.5 英寸机械硬盘 (HDD) 4TB NVMe 固态硬盘 (SSD) Fractal Define XL 机箱——装上侧板后非常安静,只有第三块显卡运行时会发出一点类似风扇的声响。 在这块主板上,两块显卡以 x8/x8 通道运行;第三块 ...
    035 wx520 发表于 3 天前 AI 硬件与部署
  • 在 4 台 256GB M5 Ultra 上运行 @exolabs,针对 Qwen 3.8 27B 模型实现了 2000 token/秒的总吞吐量,可同时服务 32 个用户(即每用户 62 token/秒)。 New
    在 4 台 256GB M5 Ultra 上运行 @exolabs,针对 Qwen 3.8 27B 模型实现了 2000 token/秒的总吞吐量,可同时服务 32 个用户(即每用户 62 token/秒)。
    046 大概脑子不够用 发表于 3 天前 AI 硬件与部署
  • 一款“换了新面孔”的 RTX 3070 Ti 现身了 显存容量翻倍,达到 16GB! New
    一款“换了新面孔”的 RTX 3070 Ti 现身了 显存容量翻倍,达到 16GB!
    043 大水瓶 发表于 3 天前 AI 硬件与部署
  • Arc Pro B50 性能表现平平,但它拥有 16GB 显存,无需外接供电,而且还是半高卡——简直太棒了! New
    Arc Pro B50 性能表现平平,但它拥有 16GB 显存,无需外接供电,而且还是半高卡——简直太棒了!
    043 快乐购物 发表于 3 天前 AI 硬件与部署
  • 使用本地大语言模型(LLM)时的常见体验: New
    使用本地大语言模型(LLM)时的常见体验: ・运行速度已经足够快了 ・但你心想:“能不能再聪明一点呢?” ・于是你尝试了更大的模型 ・又尝试调整了量化参数 ・可你还是觉得:“就差那么一点,总感觉还不够理想” ・最终,你又踏上了寻找下一个模型的旅程 归根结底,下一个要跨越的门槛是“智能”水平,而非运行速度。 ...
    045 芯彤 发表于 3 天前 大模型部署
  • X99-TF + 128G DDR3 + 双 7900 XTX,Strata 和 SGLang 我全跑起来了——P2P 补丁、双实例调参、128K 长上下文实测数据全公开 New
    【抄作业】X99-TF + 128G DDR3 + 双 7900 XTX,Strata 和 SGLang 我全跑起来了——P2P 补丁、双实例调参、128K 长上下文实测数据全公开 先说结论:洋垃圾 X99 平台上两张 7900 XTX,能同时喂饱两条路线——Strata 跑 MoE 大模型、SGLang 双卡 TP 跑 27B。短提示 SGLang 四路聚合能干到 177 tok/s,单流 70 多;代价是上下 ...
    068 土豪姥姥 发表于 4 天前 AI 硬件与部署
  • DDR3 条子便宜到离谱,就要上 256G、512G 跑本地大模型?我劝你冷静:120B 模型足够处理隐私和抗审查,要求高就上在线 AI,先把钱赚了 New
    DDR3 条子便宜到离谱,就要上 256G、512G 跑本地大模型?我劝你冷静:120B 模型足够处理隐私和抗审查,要求高就上在线 AI,先把钱赚了 先抛结论:本地部署大模型不是为了跑分军备竞赛,是为了两件事——数据隐私、抗审查。把这两件事单独划出来,用一个 120B 级别的本地模型干好,其他需要"特别聪明"的活,交给在线 API。 ...
    064 国仕无双 发表于 4 天前 AI 硬件与部署
  • 我没有买一张昂贵的 24GB 显卡,而是组合了两张便宜的 16GB 显卡;这种方案彻底改变了我运行本地模型的方式。 New
    我没有买一张昂贵的 24GB 显卡,而是组合了两张便宜的 16GB 显卡;这种方案彻底改变了我运行本地模型的方式。 https://bit.ly/48weArN
    069 无亟 发表于 4 天前 AI 硬件与部署
  • 在 Strata v0.2.15 中,即使将上下文上限扩大至 256K,预填充(Prefill)速度也几乎不再下降。 New
    在 Strata v0.2.15 中,即使将上下文上限扩大至 256K,预填充(Prefill)速度也几乎不再下降。 测试配置为:RTX 5070 12GB × 1 + RTX 5060 Ti 16GB × 1(共 2 块显卡),内存 64GB;模型采用 Qwen3.8-Flash-Next IQ3_S。 针对约 1.4 万 token 的预填充测试(取 3 次运行的中位数): ・v0.2.12:128K 上限时为 358 tok/s ...
    082 周师兄 发表于 4 天前 显卡与算力
  • 我使用的是 PCIe Gen4 转接卡,运行非常稳定。 New
    我使用的是 PCIe Gen4 转接卡,运行非常稳定。如果想连接多块显卡,只需确保主板支持 PCIe 通道拆分(bifurcation)即可。 不过,我用的这些转接卡是通过 SATA 接口供电的。
    076 郑晓锋 发表于 4 天前 AI 硬件与部署
  • 本地LLM - 神秘GPU转接卡 有人用过这玩意儿吗?😌 New
    本地LLM - 神秘GPU转接卡 有人用过这玩意儿吗?😌 我本来在研究能不能通过某种转接方案(※),把RTX 5060 Ti接到迷你主机(M1-1390)的PCIe插槽上,并让它以PCIe Gen5 x8的规格运行,结果就搜到了这个…… ※指那种可以外接GPU并提供独立供电的转接卡? https://alibaba.com/product-detail/GPU-Baseboard-Adapter-Card-PC ...
    072 芳悟 发表于 4 天前 AI 硬件与部署
  • 挖到一个颜值逆天的开源流量监控面板! New
    挖到一个颜值逆天的开源流量监控面板! 开源项目 Neko Master 值得一看,它能把你的网络流量直接变成可视化仪表盘。 1、Clash、Mihomo、Surge 都支持,多网关统一管理。 2、网络连接、流量消耗实时盯着,网络活动一眼就看清。 3、流量数据能分析,异常连接和流量消耗排查起来更方便。 4、Docker 一键部署,还能用 Agen ...
    073 天城之巅 发表于 4 天前 Docker/运维
  • Ryosan Ryoyo 推出搭载 84GB GDDR7 显存的“NVIDIA RTX PRO 5500 Blackwell” New
    Ryosan Ryoyo 推出搭载 84GB GDDR7 显存的“NVIDIA RTX PRO 5500 Blackwell” ➡️ 可在本地环境中运行大规模 AI 模型并进行高精细渲染 https://gdm.or.jp/pressrelease/2026/1118/660980
    069 失戀的謊言 发表于 4 天前 AI 硬件与部署
  • 1400 元垃圾佬装机,本地跑 Qwen3.8-Flash-Next,实测 30~50 token/s——400 块的 P100 教万元小主机做人 New
    1400 元垃圾佬装机,本地跑 Qwen3.8-Flash-Next,实测 30~50 token/s——400 块的 P100 教万元小主机做人 先说结论:1000 块钱的洋垃圾主机 + 一张 400 多块捡来的 P100,总共 1400 元,本地跑千亿参数 MoE 大模型,解码 30~50 token/s。这个速度,很多万元小主机都跑不到。这期就干三件事:① 完整配置清单公开,照抄能省 ...
    084 果如 发表于 4 天前 AI 硬件与部署
  • 玩过DIY的都知道 #发行者显卡 New
    玩过DIY的都知道 #发行者显卡 发行者是华强北这家专门回收矿卡芯片做翻新各种魔改的小厂商、走的妥妥的野路子。 据贴吧消息、发行者已经把96gb的 PCB板子给搞出来了、正在内部测试、具体上线日期我认为不会太久。 之前发行者一直回收AMD RX470 480 580来魔改显卡、 包括更奇葩的显卡焊主板上、所以发行者要搞 #RTX5090 96GB ...
    081 wybt 发表于 4 天前 AI 硬件与部署
  • 显卡显存多大才够用? 很多准备装机的朋友,面对各种显卡参数一头雾水。 New
    显卡显存多大才够用? 很多准备装机的朋友,面对各种显卡参数一头雾水。 一次性讲明白: 1,N卡、A卡、1卡的区别 2,看懂显卡型号 3,你适合多大容量的显存 4,不同档位显卡能干嘛 5,显卡品牌梯队 6,还有显卡性能天梯简单来说就是: 主打游戏,追求性价比可以看A卡; 经常做AI、剪辑、生产力工作,优先N卡; A划重点:同 ...
    089 王允林 发表于 4 天前 AI 硬件与部署
  • 下一页 »

    快速发帖

    还可输入 120 个字符
    您需要登录后才可以发帖 登录 | 立即注册

    本版积分规则

    关注公众号

    相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

    Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

    在本版发帖
    关注公众号
    返回顶部