华为发布昇腾超节点技术，实现AI模型性能提升3倍以上

在 2025 年 5 月 23 日举行的鲲鹏昇腾开发者大会 2025——昇腾 AI 开发者峰会上，华为公司正式推出了其创新技术——昇腾超节点技术。这一技术的推出，旨在进一步推动人工智能（AI）模型的发展，特别是在大模型训练和应用方面，提升其性能至全新高度。

大模型发展背景

当前，人工智能大模型的发展正面临着参数与计算效率的双重挑战。随着Scaling Law的不断发展，模型能力在不断提升，同时，以DeepSeek为代表的新型架构与工程技术也在加快模型的落地和应用。随着模型规模的扩大，如何有效管理通信带宽和计算资源成为了业界亟待解决的问题。

在这一背景下，MoE（Mixture of Experts）成为了主流的模型结构。MoE通过复杂的混合并行策略，使得模型在处理各种任务时能够发挥出更高的效率，但其面临的通信瓶颈问题也不容忽视。根据实践经验，当TP（Tensor Parallel）、SP（Sharded Parallel）或EP（Expert Parallel）等分布式策略的混合并行域超过8卡时，跨机通信带宽便成为性能限制的核心因素，进而影响整体系统的效率。

昇腾超节点的创新与突破

面对这些挑战，华为推出的昇腾超节点技术打破了以传统CPU为中心的冯诺依曼架构，创新性地提出了对等计算架构。这种新方式通过高速总线互联技术的应用，实现了技术上的重大突破，不仅将总线从服务器内部扩展到整个机柜，甚至跨越多个机柜，使得集群的协同工作效率大幅提升。

在昇腾超节点的设计中，高速总线互联替代了传统以太网的通信手段，使得单跳通信延迟从常规的2微秒降至200纳秒，减少了近十倍的延时。这一革命性的改变使得多个计算节点可以如同一台大型计算机一般协同工作，突破了以往系统性能的诸多限制。

昇腾超节点的架构与性能

新推出的昇腾384超节点由12个计算柜和4个总线柜组成，依托华为在信息与通信技术（ICT）领域的深厚技术积累和工程经验，经过最佳负载均衡的组网方案设计，为未来更大规模的AI模型应用提供了强有力的支撑。

根据华为的性能测试数据，在昇腾超节点集群中，经过优化的千亿参数模型LLaMA 3的性能提升超过2.5倍。而在对于通信需求高的多模态模型，如Qwen和DeepSeek，性能提升的幅度更是高达3倍，相较于行业内的其他集群，领先优势达到了1.2倍。这些性能的数据不仅展示了华为昇腾超节点的强大能力，也为各行业的大规模AI模型应用提供了坚实的基础。

革新计算架构与未来展望

可以预见，随着AI技术的不断进步，对计算能力和效率的要求将日益增加，传统的计算架构将面临更大的挑战。华为的昇腾超节点技术能够有效应对这一需求，不仅从架构设计上实现了创新，更通过实际性能测试显示出强劲的竞争力。

华为的技术团队将继续致力于AI领域的前沿研究与突破，逐步完善昇腾超节点技术，为各行各业的智能化转型赋能。在未来的日子里，AI模型的表现将愈加出色，为推动社会进步、经济增长提供源源不断的动力。

华为昇腾超节点技术不仅是其在AI领域的一次重要突破，也将为全球计算架构的创新发展指明方向，助力众多企业在智能化的浪潮中更快速地前行。