跳到主要内容

DeepSeek 梁文锋现身!DSec沙箱论文详解,Agent训练基建

53 0
AI摘要

DeepSeek 发布系统论文《DeepSeek 弹性计算(DSec)》,公开自研沙箱平台核心技术。DSec 为大规模智能体训练提供安全稳定环境,具备极强并发处理能力,单单元含 160 台 CPU 节点,每日服务约 300 万个沙箱实例,稳定支撑超 38 万个并发任务。该平台由 130 余人团队开发,创始人梁文锋为作者之一。

一篇共有31页的论文, 把人工智能训练基础设施的真实情况直接展示了出来, 有一个由130人组成的团队, 每天会有300万个沙箱实例, 这次DeepSeek的行为, 让其他的竞争对手们清楚地看到了在大模型领域展开竞争的新前线位置。

论文规模与作者阵容

这篇论文的文章标题是《弹性计算(DSec): 面向大规模智能体训练的高效沙箱基础设施》, 文章的篇幅总共达到了31页, 文档提交的时间点是9月19日, 这份材料是DeepSeek在智能体训练基础设施这一领域内进行的初次系统性对外公开披露。

这支团队里头有足足一百三十多位作者。这些人涉及的领域还挺广的, 包括了系统工程、编译器、存储还有网络好几个方向。而且那位叫梁文锋的创始人竟然只排在作者名单的最末尾一块儿。这种情况就清楚地说明了这个项目在整个组织里面的战略地位是挺重要的。

沙箱平台核心定位

DSec是DeepSeek自研的生产级弹性计算沙箱平台, 该平台属于内部专属基础设施, 其核心任务是为大模型智能体的大规模训练与评测提供安全、隔离、可恢复的运行环境。

这个情况和普通的容器编排计划是完全不一样的。DSec针对了好几个特别的情况做了专门的设计。这些情况包括Agent要训练的时候需要多轮交互, 还需要长时间运行, 以及工具调用是随机的。这个东西是不对外商用的, 只是为内部服务。内部有大量并行训练的流水线, 一共有数万条之多。

单单元硬件规模

论文的披露内容显示出了一个标准的DSec生产单元, 这个单元由160台CPU节点组成, 这些节点共计拥有3万个CPU核心, 并且配备约为250TB的内存空间, 该单元能够管理PB级镜像文件与环境层级资源, 其资源池化程度远超常规沙箱方案。

这一个配置的含义是单单元可以一边承受好几万个隔离开来的训练容器, 节点和节点中间是靠高速互联来实现镜像秒级的分发, 这样可以避免传统方案里反复拉取带来的吞吞吐吐的瓶颈问题。

并发吞吐关键数据

根据生产环境实测显示的数据来看, 该单元每天能够服务的沙箱实例数量大约是300万个。它还能稳定地支撑超过38万个并发的沙箱实例同时进行运行。与此同时, 沙箱创建速率的峰值也达到了每秒5000次。

从换算的角度来看, 平均每一零点二秒的时间长度内, 系统就需要启动一个全新的隔离环境。同时, 必须去保证在环境成功启动的当下, Agent工具就能立刻开展执行动作。

这个动作包含了进行多个步骤的分析判断流程, 以及调用各类外部工具的操作, 这给调度程序的设计与内核的深度调整优化提出了非常严苛的要求标准。

资源开销与内存优化

这篇论文提到, DSec这个系统在好几个方面都做了深入的改进, 具体的情况就是关于镜像如何分层进行分发, 还有环境这个东西如何进行快照复用。

与此同时, 对于内存这种资源, 它也能够实现超卖并且及时回收。经过这样的优化之后, 搭建一次训练环境所需要花费的时间被大幅度缩短, 同时存储上面所花的成本也明显减少了很多。

通过实际的部署过程来进行验证, 整体的内存利用率和通用的容器方案相比, 是具有明显提升的这样一种情况的, 在单位算力之下, 有效的训练吞吐量是增加了的, 从而就直接使得大规模智能体训练的平均成本被压低了。

行业信号与竞争格局

国内的大模型厂商, 这是在头一次用学术论文这种完整的形式, 把沙箱基础设施里头的核心技术的秘密给全部公开出来了。这算是标志着说AI的竞争, 正在从那个模型能力的层面往下了沉了, 沉到了工程的底座这个层面去了。所以说, 基础设施的效率呢, 就成了新一轮的, 那种差异化的一个壁垒一样的东西了。

在如今这个阶段, 训练的数据和那个模型的架构都差不多。所以, 谁能花钱少一点, 而且保持很高的稳定性把几百万个智能体同时拿去训练这件事给做通, 谁就能抓住下面这个阶段的效率的主动权。

你能见过每天处理300万实例的那个基础架构吗? 大家在评论区里谈一谈你的智能体训练到底卡在了哪一步。如果你也觉得这个办法对你是有用的, 请顺手点一个赞或者去分享给你的同行同事去看一看。

登录后参与评论

评论仅开放给已登录并完成邮箱绑定的用户。

评论 0

暂无评论。