查看: 2|回复: 0

Nvidia搞了个NVIDIA Personal AI Router (PAIR) 项目,可以把家里多台电脑组织成一个本地 AI 推理集群。

[复制链接]

9

主题

0

回帖

27

积分

新手上路

积分
27
发表于 7 小时前 | 显示全部楼层 |阅读模式
Nvidia搞了个NVIDIA Personal AI Router (PAIR) 项目,可以把家里多台电脑组织成一个本地 AI 推理集群。

它可以把家里的多台设备——例如 RTX PC、DGX Spark 和 Mac——连接成一个本地 AI 算力池,并为 AI 应用提供统一入口。它会根据各设备的负载,把不同的推理请求自动分发到空闲机器上,适合本地 Agent、多任务并行和多模型推理场景;同时支持 Ollama 和 LM Studio,并强调数据尽量留在本地网络中,降低对云端推理的依赖。

嗯,现在我最大的问题是这些设备一台都没有。。


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部