DeepSeek 的 Agent 沙箱平台 DSec 是《深入理解 AI Infra》一个很好的例子。

王吉杨

DeepSeek 的 Agent 沙箱平台 DSec 是《深入理解 AI Infra》一个很好的例子。跟我当年在微软用 FPGA 加速网络、Bing 搜索，在华为用 UB 去掉抽象层的开销一样，都是打破旧的抽象边界，实现极致性能。传统操作系统和云要服务大量互不相关的程序，所以必须通用，有足够好的可编程性。而 AI Infra 的负载就是 LLM 和 Agent 用的沙箱，通信模式事先已知，可以协同设计。

Agent RL 和传统云计算的很多假设都是不同的：
1. 云上的负载来自大量相互独立的租户，可以靠统计复用把峰谷削平。RL 负载则是一个作业一次申请 32K 个沙箱，需求高度相关。
2. 云上的容器按自己的节奏运行。沙箱约九成时间在等模型生成，CPU 平均只用 5%。所以优化目标不是 CPU 成本，而是不让 GPU 空等。
3. serverless 平台假设少数热门镜像被大量复用。RL 用的镜像数量极大、复用极少。
4. 威胁模型不同。云安全防的是外部攻击者。RL 里运行在沙箱里的程序，本身就在被优化去寻找漏洞。
5. DSec 知道哪些 GPU 作业被抢占了，所以能主动暂停对应的沙箱，通用的容器云做不到。

书里面也加入了 DSec 的内容，主要在第 11 章：
https://github.com/bojieli/ai-infra-book



New From DeepSeek: a sandbox platform running 3 million AI agent environments per day.

DeepSeek just unveiled DSec (DeepSeek Elastic Compute), built for large-scale agent training and evaluation. It unifies FnCall, containers, microVMs, and full VMs, while coordinating stateful agent rollouts with RL training.

At production scale, one DSec cluster spans ~160 nodes, supports 380,000+ concurrent sandboxes, and can spin up 5,000+ new sandboxes every second.

AI agents need infrastructure too — and DeepSeek is now showing us what that infrastructure looks like at serious scale.