AIDC超节点架构及超节点部署对液冷需求趋势分析

hdy

01.超节点概念 超节点通常是大规模的AI计算单元，它由多个计算节点（通常是服务器）通过高速网络互联而成，形成一个逻辑上的高性能计算模块。一个超节点内部通常承载着强大的并行计算能力。一个超节点可能由多台服务器组成，每台服务器通常配置2颗或更多 CPU，因此整个超节点可能拥有数十颗 CPU，提供强大的通用计算和任务管理能力。超节点内部集成了 大量 GPU，数量远超一体机。每台服务器可能配置8块、16块甚至更多 GPU，因此一个超节点可能包含几十到上百块 GPU，为大规模并行计算提供核心算力。当前主流大模型需要数千甚至上万张GPU协同工作，超节点通过高效的互联架构，能够大幅提升训练效率，尤其是在超大规模模型的场景下，其优势尤为突出。超节点通过优化计算资源分配和数据传输，减少了训练过程中的瓶颈，使模型训练时间显著缩短。超节点的特点是极高的计算密度、极高的单柜/单节点功耗，远超传统服务器机柜，比如英伟达的GB200 NVL72，单机机柜功率达135kw，或者华为的CM384超节点，超节点达到500kw功耗。

02.

超节点产业代表

行业针对超节点提出了两种主要的发展路径。第一种路径是通过提高单个机柜的功耗，尽可能多地部署GPU，比如英伟达的GB200 NV72和未来的Rubin Ultra NV576，英伟达近年来通过不断优化单机柜的GPU密度，展现了这一路径的潜力。第二种路径则是通过增加机柜数量，先确保GPU总量，再通过高效互联技术组成超节点。谷歌的GPU或者华为CM384是典型案例，其展示的拥有数千个GPU的超级系统，通过多机柜互联实现了超大规模计算能力。

图片来源：曦智科技孟怀宇博士
海外以英伟达为代表：2022年底，NVIDIA发布Hopper架构GPU的GH200 NVL256第一代超节点，受限于量产难度、价格、故障率等原因，未规模商用2024年，NVIDIA发布Blackwell架构GPU的GB200 NVL72 超节点，芯片算力、显存、互联带宽提升，规模缩小为单个机柜一层交换全电互联，该产品国外互联网厂商规模商用，国内禁售。2025年将发布GB300 NVL72、2026年将发布互联带宽进行提升Vera Rubin NVL144，均延续GB200 NVL72架构，芯片算力、显存。2027年将发布Rubin Ultra NVL576，架构升级，单机柜144个GPU。



国内以华为为代表：

华为:2025年上半年发布基于昇腾910C的超节点产品，支持384卡互联

其他头部服务器厂家:2025年均在基于国产GPU卡有序推进超节点设备研发，目标具备32卡及以上ScaleUp互联能力。

03.超节点架构部署项目案例
OponAI 星际之门，GB200NV72：“星际之门”(Stargate)项目于2024年6月动工，位于美国德克萨斯州阿比林，当时这里还是一片荒芜的田野 ，仅仅几个月的时间，这里就发生了翻天覆地的变化，目前该项目主体框架已经建设完毕，明年建成后，将建成八座独立的建筑，每座建筑都包含大规模的、完全互联的英伟达Blackwell GPU集群 ，一期将部署40万张英伟达GB200，采用英伟达NV link互联。

华为云芜湖数据中心，昇腾CloudMatrix 384超节点：华为云华东（芜湖）数据中心采用了华为云全新研发的多元算力对等池化架构，使算力提升50倍。通过超高带宽的Scale Up网络，将资源对等连接起来，打破了单体算力性能和集群线性度的瓶颈，可有效提升了大模型的训练效率。预计到2027年，芜湖集群智算规模预计超过4.5万P。


04.英

伟达&华为超节点

架构下液冷趋势 目前AI超节点的性能，在很大程度上依赖于内部计算单元之间的高速、低延迟互联。以NVIDIA GB200 NVL72为例，其通过高速NVLink技术将多达72个GPU紧密集成在一个机柜内，形成了庞大的高带宽域（High Bandwidth Domain, HBD）。这种架构对缩短GPU间的物理通信距离、最大化机柜内的计算密度提出了极致要求。然而，风冷系统为了达到散热效果，恰恰需要庞大的散热器、复杂的风道设计和散热风扇。这些组件占据了宝贵的机柜空间，使得服务器内部元器件的布局密度受限，与超节点追求极致密度的目标背道而驰。而行业巨头如Meta、Google等已提出未来单机柜功率密度冲击1MW（兆瓦）级的宏伟蓝图，在这样的愿景下，风冷在物理空间上几乎不具备实现的可能性。

左侧的DGX B300 风冷版本高度达到6U，右侧的液冷版本高度仅1U（4.445cm）

英伟达：英伟达的AI数据中心超节点架构部署路线已经很清晰，从英伟达的芯片架构路线图可以清晰看出，NV72到接下来的NV576架构。当下NV72 GB300超节点

架构单芯片已超1400kw，单机架达135kw，目前已启动采用全液冷架构方案，到2027

年， 英伟达的Rubin Ultra NV576单机柜功率将达到恐怖的600kw。所以随着NV超节点部署带来的机柜密度和互连（铜缆、母线、液冷管路歧管）的增加，物理空间变得极其紧张，很难再容纳足够的风扇或维持有效的散热风道,今年GTC2025，英伟达的GB300已放弃风扇。超节点架构下不仅是对CPU,GPU芯片采用液冷，对内存，电源，光模块，交换机等部件的液冷散热需求也将大幅提升，尤其交换机，光模块和光模块是超节点架构的重要组件该组件的散热需求预估是增幅较大，利好液冷冷板模组厂商，同时对于大功率的液冷机柜及机架式CDU也将提升，目前市场上的设备厂商在陆续推出WM级的CDU产品，应该也是为了满足为了超节点架构的部署趋势。

华为：
目前CloudMatrix384超节点被行业认为是能够媲美英伟达H200性能的产品，也是目前国产A基础设施弯道超车的主要路径，未来如果910C新品产能达标，CM384超节点会在国内大量部署。
华为的CloudMatrix384架构并不追求单芯片的性能和功率，而是采用“人海战术”，用芯片数量堆算力。从单芯片来看，华为的昇腾芯片似乎大规模采用液冷散热还未到时间，目前华为的昇腾910系列芯片的单芯片功耗在300-400w区间，功耗并不高，单芯片功耗并未达到必须采用液冷的要求。但是从数据中心集群架构来看，华为的CloudMatrix 384网络大规模采用光收发器，集群功耗极高，SemiAnalysis估算单个CM384超级节点功耗接近500千瓦，单机架达到42kw/rack，CM384超级节点功耗是英伟达GB200 NVL72机架的4倍以上，华为昇腾的服务器机架已经开始采用冷板液冷技术散热，液冷占比达70%，所以CM384超节点的部署会带动国内液冷的市场需求。

05. 总结
人工智能浪潮席卷全球，对算力的需求急剧增长。作为这场竞赛的核心，超节点以其前所未有的计算密度，成为支撑万亿参数大模型训练与推理的关键。然而，极致的算力也带来了惊人的发热量。GPU功耗已从过去的300-500W飙升至超过1000W乃至2000W以上，使得散热问题从数据中心的“幕后工作”转变为制约计算密度、性能和运营成本的核心瓶颈。面对AI超节点带来的前所未有的散热挑战，传统风冷无法满足，液冷凭借其固有优势正成为必然选择