DeepSeek 前阵放出 V4.1-Flash,顺手开源了自家生产级推理引擎 DeepInfer:单集群日吞吐 155 万亿 Token、单卡小时产出对标 38 美金,数据很炸。很多人当时慌了:vLLM、SGLang 这种通用框架,是不是要被专属引擎卷死 ...
关注公众号相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com
Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1