今天 DeepSeek 发布了一篇新论文《DualPath: Breaking the Storage Bandwidth
Bottleneck in Agentic LLM Inference》,与清华,北大合作撰写。
不知道是不是程序员做久了,我打心眼里喜欢这种底层工程上的极致优化。
夯爆了,真夯爆了。
简单总结下做了啥:
1、当前主流分离架构下,Prefill 节点拉取海量 KV-Cache 导致存储网卡塞爆,而 Decode 节点的网卡却常年闲置。
2、DualPath 架构打破了“直连”的思维定势,让闲置的 Decode 节点去存储拉数据,再借道极宽的计算网络(RDMA)“空投”给 Prefill。
3、不加一分钱硬件,仅靠 I/O 链路重构与全局调度,实现了系统吞吐量直接翻倍(平均提升 1.96 倍)。
勇敢探索前人未至之境,yyds!!!
论文传送门:arxiv.org/pdf/2602.21548
##