订阅

AI 硬件与部署 今日: 4 |主题: 428|排名: 1 

  • 准备买 Mac Studio 了,一台512GB 还是两台 256GB 呢?
    准备买 Mac Studio 了,一台512GB 还是两台 256GB 呢? 看了一下,国行同样选 M5 Ultra,36 核 CPU、80 核 GPU,每台配 1TB 硬盘,单机 172,999,两台合计 173,498,只贵 499, 单机的好处是省事,512GB 统一内存在一台机器里,内存带宽 1.2TB/s 但两台各有一颗 M5 Ultra,可以用一根雷雳 5 线连起来,靠 RDMA 减少传数 ...
    6455 商户收款码 发表于 2026-10-31 AI 硬件与部署
  • 接手一个别人的项目,最熬人的从来不是写代码,是先把那一堆东西看明白。
    接手一个别人的项目,最熬人的从来不是写代码,是先把那一堆东西看明白。 Ix这个工具,直接把代码仓库变成了一张能查的知识地图。底层用的是tree-sitter,支持26种语言,自动把符号、调用、导入这些关系理清楚。数据存在本地,不用每次重新分析。想看某个组件干嘛用的、数据怎么流的、改一处会影响哪里,直接查就行,不用 ...
    0244 杨茂斌 发表于 2026-10-31 AI 硬件与部署
  • 英伟达针对中国市场的显卡产品线又要变天了。博板堂最新消息,英伟达接下来要在中国市场停供RTX 5090 D v2和16GB版RTX 5080,以后国内的英伟达旗舰卡就只剩24GB大显存版RTX 5080。
    英伟达针对中国市场的显卡产品线又要变天了。博板堂最新消息,英伟达接下来要在中国市场停供RTX 5090 D v2和16GB版RTX 5080,以后国内的英伟达旗舰卡就只剩24GB大显存版RTX 5080。 现在16GB版5080正在清库存,大概还能卖俩月就售罄,24GB版正在加急推进,快的话12月底上市,慢的话明年1月初开卖。 等于英伟达直接把原来更 ...
    0241 天使种的花朵 发表于 2026-10-31 AI 硬件与部署
  • 报道:英伟达正加速推进 RTX 5080 24GB 的发布,有望于 12 月登场
    报道:英伟达正加速推进 RTX 5080 24GB 的发布,有望于 12 月登场 https://www.digitalfoundry.net/news/2026/10/report-nvidia-accelerating-rtx-5080-24gb-launch-could-arrive-by-december
    0236 中华油荣鑫汽修 发表于 2026-10-31 显卡与算力
  • 一款全新的 UEFI 工具可在 Windows 环境下解除 NVIDIA RTX 20 至 RTX 40 系列显卡的 Tensor 算力限制
    New UEFI Tool Lifts NVIDIA's Tensor Cap on RTX 20 to RTX 40 Cards in Windows https://tpu.me/8dfd
    0345 用心打字 发表于 2026-10-31 显卡与算力
  • 借助 ROG XG Station 3 和 Thunderbolt™ 5 连接技术,全面升级你的装备!⚡
    借助 ROG XG Station 3 和 Thunderbolt™ 5 连接技术,全面升级你的装备!⚡ ​​你会选择搭配哪款显卡呢:NVIDIA GeForce RTX 50 系列,还是 AMD Radeon RX 9000 系列?👀 欢迎在评论区告诉我们!👇 了解更多:https://rog.gg/XGStationIII
    0355 透明的黑色 发表于 2026-10-31 显卡与算力
  • 💥8GB 的​​ RX 5700 XT,塞进了 Qwen3.8 Flash Next Coder Strata 跑 IQ1_M,上下文 192K。截图解码约 15.6 tok/s,显存 7.7/8GB。
    💥8GB 的​​ RX 5700 XT,塞进了 Qwen3.8 Flash Next Coder Strata 跑 IQ1_M,上下文 192K。截图解码约 15.6 tok/s,显存 7.7/8GB。 温馨提示:量化很激进,本机请复测。你最低配卡跑到过多少? 来源: @Th00rBeardedOne 👇
    1263 有梦就有缘 发表于 2026-10-31 显卡与算力
  • 停电断网的时候,冰箱里的东西还能放多久、烫伤怎么处理、水怎么消毒,手机上不了网就只能干着急。
    停电断网的时候,冰箱里的东西还能放多久、烫伤怎么处理、水怎么消毒,手机上不了网就只能干着急。 Survival LLM 是一个装在自己电脑上的免费 AI 助手,配了一整套离线资料库,装好之后断网也能问。 资料库大约 150 万篇文章,有维基百科最常被读的 93 万篇,还有医学百科、美国疾控中心的资料、政府和军方的急救求生手册 ...
    0235 叶落长安 发表于 2026-10-31 AI 硬件与部署
  • 大家租到的 Mac mini 是这样的: 一台完整的 Mac mini,只给你一个人用,不是虚拟机,也不和别人共用账号。
    大家租到的 Mac mini 是这样的: 一台完整的 Mac mini,只给你一个人用,不是虚拟机,也不和别人共用账号。走韩国本地宽带,韩国原生 IP,全天开机。用远程桌面直接操作,日常使用跟本地机器差别不大。系统和环境由你自己配置。 照片里标签上的日期是 10.26 到 10.29,这批机器是这几天刚由机房代为上架的。机位、带宽和 ...
    0240 深度足球 发表于 2026-10-31 AI 硬件与部署
  • 💥12GB 的 RTX 3060,本地跑起了约 83.6GB 的 Qwen3.8 Flash Next Strata IQ3_S:解码最高约 68 tok/s,预填充约 916。
    💥12GB 的 RTX 3060,本地跑起了约 83.6GB 的 Qwen3.8 Flash Next Strata IQ3_S:解码最高约 68 tok/s,预填充约 916。系统内存只要 48GB。 温馨提示:大模型靠内存换显存,本机请复测。你最低配到过哪张卡? 来源: @uctive 👇
    1266 火神 发表于 2026-10-30 AI 硬件与部署
  • 谈谈我对 Nexus S1-08 的看法。很多人可能并不清楚它的定价,因为我找遍了市场,也没发现什么合理的报价。
    谈谈我对 Nexus S1-08 的看法。很多人可能并不清楚它的定价,因为我找遍了市场,也没发现什么合理的报价。大家似乎都忙着关注其他品牌或其他设备了,不过这倒无妨。重点在于,这款设备内置了 8 颗 BM1373 芯片,算力可达 40 TH/s。根据我用功率计进行的实测,其整机功耗为 615W。对于这类设备而言,这样的能效表现相当不错 ...
    0221 北兮 发表于 2026-10-30 显卡与算力
  • 稍微整理了一下家用人工智能
    0230 ☆飘☆ 发表于 2026-10-30 避坑指南
  • 一张 RTX 3090 加 192GB 内存,跑完整的 DeepSeek V4.1 Flash 1017,生成 41 tok/s。
    一张 RTX 3090 加 192GB 内存,跑完整的 DeepSeek V4.1 Flash 1017,生成 41 tok/s。 552B 参数全在,专家权重压到 2 bit,在 Windows 上原生跑。配置是 i5-13600K、4 条 48GB DDR5-5600、NVMe 固态。 换了配置以后的速度: 1. 内存降到 128GB,生成 33 tok/s 2. 25K 到 64K 的长 prompt,prefill 610 tok/s,128GB 是 4 ...
    0234 木生木生 发表于 2026-10-30 AI 硬件与部署
  • 💥16G 的 5080 跑千问3.8,更高量化不一定更快
    💥16G 的 5080 跑千问3.8,更高量化不一定更快 社区按仓库文件大小和配置估算: UD-Q4_K_M 约 15.3GiB,16G 卡塞不下,得把约 2GB FFN 甩到内存,理论速度上限大概 28 tok/s。 换成 UD-IQ4_XS 全进显存,KV 用 q8_0,32K 上下文能稳住,上限大约 67 tok/s。 温馨提示:量化高一档如果逼你读系统内存,速度可能腰斩。16G ...
    0271 民间编诗人 发表于 2026-10-30 显卡与算力
  • 某位工程师的家庭实验室 💀
    0326 快乐虎 发表于 2026-10-30 硬件评测
  • 💥Qwen3.8-27B 的 BF16,48GB 显卡都装不下
    💥Qwen3.8-27B 的 BF16,48GB 显卡都装不下 同一模型,换格式差三倍多: Q4_K_M 约 17.2GB,24GB 卡能跑 FP8 约 30.6GB,32GB 卡刚好 BF16 约 52.8GB,要 80GB 温馨提示:48GB 开 BF16 不是慢,是起不来。租卡前先算显存。 你卡上现在跑的是哪种? 来源:http://DEV.to VRAM 对照👇 https://dev.to/gpunz/ollama-vs-lm- ...
    0352 晶莹之水滴 发表于 2026-10-30 显卡与算力
  • 太弱了……得要那个大家伙 5070Ti 才行……
    0246 nxwqwt 发表于 2026-10-30 显卡与算力
  • 在使用 qwen3.8-flash-next-iq3_s 模型(配置 128K 上下文窗口)执行一项消耗了 35,471 个 token 的任务时,平均处理速度为 140.1 token/s。
    在使用 qwen3.8-flash-next-iq3_s 模型(配置 128K 上下文窗口)执行一项消耗了 35,471 个 token 的任务时,平均处理速度为 140.1 token/s。
    0248 展菲 发表于 2026-10-30 显卡与算力
  • Strata + RTX5090 + DDR5-3600 128GB 基于 QwenFlashNext 的 6 种量化版本进行的实测
    Strata + RTX5090 + DDR5-3600 128GB 基于 QwenFlashNext 的 6 种量化版本进行的实测 ■ Prefill(预填充)|Prose(通用文本)|Code(代码)(tok/s) 的实测结果如何? ・IQ1_M 5562|161.0|199.4 ・Q2_0 6123|211.5|296.5 ・IQ2_XS 5465|212.9|284.2 ・IQ3_XXS 5196|182.0| ...
    0277 gotoback 发表于 2026-10-30 显卡与算力
  • 💥12G 的 3060,没换卡,只升了 Strata 0.2.7
    💥12G 的 3060,没换卡,只升了 Strata 0.2.7 跑千问3.8-Flash-Next(IQ3_XXS)时,官方把路由器改成优先用显卡上已经在的专家,少从内存翻页。 实测: 故事回答 46.2 → 53.1 tok/s(+15%) 写代码 45.7 → 62.5 tok/s(+37%) 温馨提示:答案措辞会有点不一样,因为挑的专家集合变了。80 项核对没发现抄写或代码错误。 ...
    4417 冷白 发表于 2026-10-30 显卡与算力
  • 下一页 »

    快速发帖

    还可输入 120 个字符
    您需要登录后才可以发帖 登录 | 立即注册

    本版积分规则

    关注公众号

    相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

    Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

    在本版发帖
    关注公众号
    返回顶部