找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 1|回复: 0

DeepSeek V4 前瞻。

[复制链接]

8

主题

1

回帖

26

积分

新手上路

积分
26
发表于 1 小时前 | 显示全部楼层 |阅读模式
DeepSeek V4 前瞻。


今天 DeepSeek 发布了一篇新论文《DualPath: Breaking the Storage Bandwidth
Bottleneck in Agentic LLM Inference》,与清华,北大合作撰写。

不知道是不是程序员做久了,我打心眼里喜欢这种底层工程上的极致优化。

夯爆了,真夯爆了。

简单总结下做了啥:

1、当前主流分离架构下,Prefill 节点拉取海量 KV-Cache 导致存储网卡塞爆,而 Decode 节点的网卡却常年闲置。

2、DualPath 架构打破了“直连”的思维定势,让闲置的 Decode 节点去存储拉数据,再借道极宽的计算网络(RDMA)“空投”给 Prefill。

3、不加一分钱硬件,仅靠 I/O 链路重构与全局调度,实现了系统吞吐量直接翻倍(平均提升 1.96 倍)。

勇敢探索前人未至之境,yyds!!!

论文传送门:arxiv.org/pdf/2602.21548

##


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|一起港湾 ( 青ICP备2025004122号-1 )

GMT+8, 2026-2-27 21:53 , Processed in 0.250570 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表