腾讯深度优化DeepEP通信框架提升AI大模型训练性能

时间：2025-05-09 15:15

小编：小世评选

近日，IT之家消息，腾讯技术团队对DeepSeek开源的DeepEP通信框架进行了全面深入的优化，结果在多种网络环境下取得了显著的性能提升。这一优化措施为企业在AI大模型训练方面提供了更加高效的解决方案，使得相关技术得到了广泛认可。

DeepEP，是一个专为专家混合（MoE）和专家并行（EP）模型设计的专属通信库，其主要功能在于支持GPU之间的高效通信。它以高吞吐量和超低延迟为核心，针对MoE的派发和组合，极大地提高了各类深度学习模型训练的效率。DeepEP还支持包括FP8在内的低精度运算，这使得在提供高性能的同时，也能有效降低计算资源的消耗。

腾讯在对DeepEP进行优化的过程中，技术团队聚焦于识别和突破通信性能的两大关键瓶颈。这些关键问题被定义为在特定网络环境中，数据传输的延迟和吞吐量较低，影响了大模型训练的整体效率。经过细致的分析和大量的实验，腾讯团队成功实施了一系列优化策略，使得DeepEP不仅在RoCE（RDMA over Converged Ethernet）网络中实现了性能的翻倍提升，同时在回馈到InfiniBand（IB）网络时，通信效率更是进一步提升了30%。

经过一系列优化，腾讯星脉网络团队在混元大模型等多个项目的训练和推理中应用了这一全新的DeepEP通信框架。在腾讯星脉与H20服务器所构建的环境中，这套经过深度优化的技术方案展现出极佳的通用性和可靠性，有效地降低了专家模型训练的资源消耗，减少了各项模型训练的完成时间，这对企业的技术开发和产品迭代具有重要的推动作用。

优化后的DeepEP框架，使得腾讯在AI领域竞争中拥有了更为明显的优势。随着AI应用场景的不断扩展，深度学习模型的训练对计算资源的需求越发加剧，而高性能的通信框架在这一背景下显得尤为重要。作为国内技术领先企业之一，腾讯在这一技术领域的不断探索和创新，不仅标志着自身在AI技术上的进步，也为整个行业的发展注入了新的活力。

值得一提的是，DeepSeek也对腾讯的优化工作表示了高度认可，公开致谢腾讯团队对DeepEP代码的贡献，称其为一次“创新性”的技术进步，这不仅强化了腾讯在开源社区的影响力，也为更多企业提供了借鉴和参考。

从技术角度看，DeepEP的优化不仅是对现有技术的延伸，也是在AI大模型训练环境下的一次跨越式进展。腾讯的这一努力，预示着未来在AI领域中，通信框架的优化将伴随着更多智能化的创新，助力行业提升整体效率与效能。

来看，腾讯在DeepEP通信框架上的深度优化，是一次极具前瞻性的技术创新，展现了腾讯在AI技术生态中的领先地位。随着AI科技的日益发展，腾讯将继续致力于探索更多技术的优化方案，为不断变革的市场需求提供扎实的技术保障。这一切都意味着，AI的未来充满无限可能，而腾讯将在这个未来中扮演更加重要的角色。