小型公司私有化部署大模型(deepseek-v4-flash)的话,有推荐的配置吗?

[复制链接]
发表于 3 小时前 | 显示全部楼层 |阅读模式
悬赏1金钱未解决
小型公司私有化部署大模型(deepseek-v4-flash)的话,有推荐的配置吗?


想部署一个 deepseek-v4-flash 或差不多相同级别的模型,目前在看的配置包括:
8xA100(只能部署量化版本)一体机,
8xH20,8xH200 云租赁 GPU 服务器;
有部署过的群友吗?效果怎么样?或者有没有其他的配置参考?

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部