一起港湾 - AI技术分享社区

各位一起港湾的图钉、垃圾佬、独立创客与私有化算力玩家们：两千五百块钱，在 2026 年的今天能干什么？买个入门级手机？还是给家里的软路由升个级？**今天站长带头给大家开一个天花板级的硬核新盘：用不到 2400 ...

0 101 田野芬芳发表于 2026-10-27 显卡与算力

各位一起港湾的算力玩家、硬件老炮、自媒体漫剧创客们：最近全网科技圈和咱们论坛里，关于“英伟达 30 系/40 系显卡 Tensor Core 算力暴涨 60%-100%”的帖子直接刷屏了。不少兄弟在后台私信我，问是不是可以趁着 ...

1 102 大叔很下饭发表于 2026-10-27 显卡与算力

升级换下来的旧显卡千万别挂闲鱼贱卖。一位开发者在只有 32GB 内存的主机上跑 256K 上下文的 Qwen3.8-Flash-Next 时发现：原版 Strata 引擎的低内存模式只支持单卡。一旦切分到双卡，塞不进显存的 MoE 专家层就会被 ...

0 101 heyond 发表于 2026-10-27 显卡与算力

我最初只用了一台树莓派 5（Raspberry Pi 5），后来又添置了绿联（UGREEN）DPX2，里面装了一块 8TB 的 NAS 硬盘和一块 500GB 的硬盘，主要用于运行 Jellyfin 和存储照片。我打算在机架里再加个光驱，目前正在等线 ...

0 101 小鱼急急发表于 2026-10-27 硬件评测

去年年中（在“内存危机”爆发前），我入手了一台配备 96GB 内存的 Minisforum UM890 Pro，还配了个 DEG1 扩展坞，总共花了 800 美元，本来是打算用来折腾“家庭实验室”（homelab）的。结果不知为何，它就一直 ...

0 101 電波男发表于 2026-10-27 AI 硬件与部署

2024年前后，有一件事情让很多想微调大模型的人很头疼。你手上有一块甚至四块GPU，想对一个几十亿参数的模型做全参数微调，不是那种只调几个小插件的轻量化方法，而是实打实地更新每一个权重。问题是，模型的参数 ...

0 101 八百发表于 2026-10-27 显卡与算力

2B 参数的小模型，如今也能真干活了？OpenBMB 的 MiniCPM5-2B 主打本地小硬件运行。有人把它接进 CI 修复 Agent，丢了个"结算重试导致运费重复计算"的 Bug 过去。模型自己复现问题、翻代码、定位原因，最后直接 ...

0 101 王宝柱发表于 2026-10-27 AI 硬件与部署

【#开源工具破解N卡#】开源社区正在解锁部分英伟达显卡的AI运算速率限制。4090特定指令测试近乎翻倍，3090 Ti的生图对照却因精度设置出现不同结果。实际能快多少，还得看任务。# http://t.cn/AXj6Du42 ...

0 101 爱点赞的同志君发表于 2026-10-27 显卡与算力

0 101 宇乐发表于 2026-10-27 AI 硬件与部署

2.78 万亿参数的模型，光靠一颗 CPU 加 8GB 内存就能跑起来？刚瞅见的时候，我心里也直打鼓。Kimi K3，推理部分清一色纯 C99 手搓，BLAS 绕开、框架扔掉、GPU 更是碰都不碰。硬盘里躺着 1.56TB 权重，实测跑起来峰 ...

0 101 電波男发表于 2026-10-27 AI 硬件与部署

llama.cpp 修复了 Laguna 模型在苹果 GPU 上处理长文本时输出崩溃的问题。北京时间 10 月 27 日，llama.cpp 推出修正。此前 Laguna 系列混合专家模型在苹果设备上处理长输入时，字词分块达到 32 个就会因数值超出 ...

0 101 小苹果的清甜发表于 2026-10-27 AI 硬件与部署

0 101 左右明发表于 2026-10-26 显卡与算力

70B的大模型真能塞进4GB显存的卡里跑？AirLLM给出的答案是能。它走的思路叫分层推理：不把整个模型一股脑塞进显存，而是一层一层往里加载，算完一层就丢掉，硬是把巨无霸塞进了小破卡。更妙的是它100%开源，白蹭 ...

2 102 苦尽甘没来发表于 2026-10-26 AI 硬件与部署

本地想跑几百 GB 的大模型，普通电脑是不是直接就劝退了？colibri 换了个打法：显存、内存、硬盘一块儿用上，模型权重按需从硬盘流式加载。纯 C 写的，零依赖，GitHub 上已经 2.5 万+ Star。多种 MoE 模型都支 ...

0 101 丫丫快递发表于 2026-10-26 AI 硬件与部署

社区用户在华硕设备实测，运行Qwen3.8-Flash-Next模型时gufo出字达42–49词元/秒，高于llama.cpp的20–23词元/秒。北京时间10月26日，有用户在社区发布测试，使用配置128GB统一内存的华硕ROG Flow Z13，对比了私有 ...

0 101 卿本色人发表于 2026-10-26 AI 硬件与部署