Wallstreetcn
2024.03.12 07:50
portai
I'm PortAI, I can summarize articles.

大摩谈液冷技术崛起:英伟达新 DGX 系统引领 “散热革命”

黄仁勋预告新一代 DGX 系统将采用水冷散热,大摩称液冷解决方案的采用率有望随 AI 产业的进一步发展而提高。

在 2024 年 SIEPR 经济峰会上,英伟达首席执行官黄仁勋透露,旗下下一代 DGX AI 系统将采用液冷散热解决方案。他还暗示新一代 DGX 服务器"即将到来"。

摩根士丹利分析师 Sharon Shih 等在报告中指出:

随着人工智能服务器的计算能力不断提高,液冷解决方案的采用率 (目前为 3%) 将会增长。液冷将首先以闭环形式设计冷板 (直接到芯片),然后扩展到机架内 (TDP 60-70kw),侧车 (2-3 个服务器机架,TDP 200kw) 和排 (4-8 个服务器机架,TDP 高达 800kw) 解决方案,以及数据中心基础设施升级。

英伟达 DGX 系统是专为 AI 训练和推理优化、提供极高计算能力的高端服务器解决方案。未来,其将采用液冷技术来支持性能更加强劲的新一代 GPU。

液冷散热技术在 AI 数据中心有着广阔的应用前景,主要有三个原因:

  1. AI 训练/推理算力需求持续攀升,导致数据中心内算力密度和热密度持续增长。
  2. 降低功耗和发热量是提高 AI 系统能效比的关键。
  3. 液冷技术可提供超越传统风冷方案的散热能力。

目前,AI 算力需求仍将保持高速增长。此前,国盛证券分析师曾指出,算力时代来临,GPU 服务器起量,液冷落地的驱动力发生根本性变革,2024 年将是液冷散热的放量元年。