NVIDIA launched the GB200 NLV4, and the GB300 may be released in March next year

英偉達推出的 GB200 NLV4，填補了關鍵的市場需求。並且，英偉達還計劃在 2025 年 3 月 17 日至 20 日的 GTC 大會上發佈其下一代 GB300 AI 服務器平台，搭載新款 B300 AI GPU，功率高達 1400W，FP4 性能是 B200 的 1.5 倍。

近日，英偉達推出了中端平台 GB200 NLV4，配備 Grace CPU 和 Blackwell GPU，在性能和能源效率之間取得了平衡，專為現代數據中心設計。

分析認為，GB200 NVL4 的推出正值英偉達重塑其產品組合之際——逐漸淘汰舊款 NVL 平台，轉向更加先進的選項，如 NVL4。

對於中型規模的，或者注重能源效率的組織而言，GB200 NVL4 是一個非常合適的選擇。與專為大規模部署設計、並具有邊緣連接器以支持主幹配置的 NVL72 相比，NVL4 提供了一個更緊湊、更注重能源效率的替代方案。

平衡性能與能源效率

GB200 NVL4 的核心是兩顆基於 Arm 架構的 Grace CPU，每顆 CPU 配備 72 個 Arm Neoverse V2 核心，兩顆 CPU 合計提供 144 個核心，提供執行高性能任務所需的計算能力。此外，GB200 NVL4 還搭配四個 Blackwell GPU。

分析師表示，這一配置特別適合 AI、高性能計算（HPC）和其他數據密集型應用。

另外，GB200 NVL4 還在每顆 CPU 下方配備了六個 MCIO 連接器，確保其提供快速的 PCIe 連接，從而支持無縫的數據傳輸。這些連接器支持網絡接口卡（NIC）、固態硬盤（SSD）和其他關鍵組件的集成，使系統具備靈活性和可擴展性。

內存方面，GB200 NVL4 提供最多 1.3 TB 的聯合內存，專為內存密集型工作負載的組織設計，確保了數據的高效處理。

除了強大的性能外，GB200 NVL4 的另一大亮點是其能源效率。

英偉達預計，完全配置的服務器將消耗約 6kW 的電力。雖然這一功耗不容小覷，但相比英偉達早期的系統，如 DGX-1 或 HGX-1，功耗大約為 3.5kW，GB200 NVL4 的功耗僅為一半左右。

明年還將推出 GB300？

據報道，英偉達計劃在 2025 年 3 月 17 日至 20 日的 GTC 大會上發佈其下一代 GB300 AI 服務器平台，搭載新款 B300 AI GPU，功率高達 1400W，FP4 性能是 B200 的 1.5 倍。

目前，英偉達的 GB200 AI 使用的是 192GB HBM3E 內存，採用 8 層堆疊配置，據 UDN 消息透露，GB300 將使用 288GB HBM3E 內存，採用 12 層堆疊，這一技術由 SK hynix 開發。

GB300 AI 服務器平台的快速連接組件和網絡卡也得到了升級，光模塊的速度從 800G 提升到了超快的 1.6T。UDN 報道稱，性能和設備 “在各個方面都得到了提升”，是英偉達的 “市場制勝武器”。

此外還有一些升級，如採用插槽設計、計算板將使用 LPCAMM，電容托盤可能成為下一代 GB300 NVL72 AI 服務器機櫃的標準配置，UDN 還提到，BBU（備用電池單元）“可能是可選的”。

無疑，這樣豪華的配置，預計組件的成本將相當可觀。

分析師預計，BBU 模塊的大規模生產價格約為 300 美元，而 GB300 AI 服務器的 BBU 總價可能會達到 1500 美元。預計超電容器的生產成本在 20 到 25 美元之間，而 GB300 NVL72 AI 服務器機櫃需要超過 300 個超電容器。