英伟达新芯片，这个 “加配” 的技术成为数不多亮点？

据澎湃新闻等报道，英伟达已开发出针对中国市场的最新改良版系列芯片——HGXH20、L20PCle 和 L2PCle。

据行业分析师预计， HGX H20 芯片和 L20 PCIe GPU 预计将于 2023 年 12 月推出，而 L2 PCIe 加速器将于 2024 年 1 月推出。

而值得注意的是，虽然算力上与 A100 有明显差距，但新款算力芯片 H20 GPU 拥有 96GB HBM3 内存，内存带宽为 4.0 TB/s，这比 “全球” H100 的 3.6 TB/s 带宽更高，弥补了算力上的缺陷。

表示，AI 带动的算力需求快速增长需要存储芯片进行容量与带宽上的配套， GDDR 方案带宽迭代速度已难以满足，而带宽更高的 HBM 方案有望加速增长，预计 HBM 将在 24/25 年后成为市场主流。

什么是 HBM？

HBM 叫高带宽存储器，是 AMD 和 SKHynix 联合推出的基于 3D 堆叠技术的同步动态随机存取存储器（SDRAM），适用于高带宽需求的应用场合，应用于高性能 GPU、网络交换及转发设备（如路由器、交换器）、高性能数据中心 AI ASIC 和 FPGA，以及一些超级计算机处理器中。

湘财证券指出，HBM 的诞生主要是为了解决 “内存墙” 和 “功耗墙” 的问题。

在一些特殊使用场景中（尤其是 AI 计算领域），处理器经常需要等待内存的数据回传，超高的延时严重拖慢了运算设备整体的运行效率，内存带宽逐渐成为限制计算机发展的关键，HBM 通过立体堆叠技术制造完成，这些堆叠的芯片通过称为 “中介层 (Interposer)” 的超快速互联方式，连接至 GPU，实现了普通存储 8.5 倍的带宽，有效解决了内存墙问题

其次，大规模的数据传输需要 CPU 与存储器通过数据总线进行频繁的数据交换，传输过程消耗的功耗要比计算本身的功耗更大，带来了成本问题，数据中心运营成本中电力成本占到 56.70%，而电力成本中 67.29% 来自于 IT 负荷，HBM 的低功耗优势有利于降低数据中心能源成本。

巨头加码 HBM 资本开支

目前，多家厂商竞相训练大模型，催生了大量需求。

据金融时报的报道，2023 年英伟达将出货 55 万片 H100，2024 年将出货 150-200 万片 H100，Omdia 预测 2023 年和 2024 年的 HBM 需求量将同比增长 100% 以上。2025 年以后，在 AI 训练需求和 AI 推理需求的推动下，HBM 的需求将继续快速增长，SK 海力士公司预测，在 2027 年之前，HBM 市场将以 82% 的复合增长率保持增长。

在此背景下，三星、美光、海力士三巨头悉数加码 HBM 的资本开支。

据韩国 The Elec 报道，三星电子和 SK 海力士两家公司加速推进 12 层 HBM 内存量产。HBM 堆叠的层数越多，处理数据的能力就越强，目前主流 HBM 堆叠 8 层，而下一代 12 层也即将开始量产。

另据集邦半导体报道，三星计划在天安厂建立一条新封装线，用于大规模生产 HBM，该公司已花费 105 亿韩元购买上述建筑和设备等，预计追加投资 7000 亿-1 万亿韩元。

美光方面，首席执行官 Sanjay Mehrotra 稍早前透露，公司 HBM3E 目前正在进行英伟达认证，计划于 2024 年初开始大量出货。首批 HBM3E 采用 8-Hi 设计，提供 24GB 容量和超过 1.2TB/s 频宽。公司计划于 2024 年推出超大容量 36GB 12-Hi HBM3E 堆叠。此前美光曾透露，预计 2024 年新的 HBM 将带来数亿美元的收入。

国产厂商发力上游材料领域

HBM 产业链主要由 IP、上游材料、晶粒设计制造、晶片制造、封装与测试等五大环节組成，国内厂商则主要处于上游材料领域。

民生证券指出，材料端来看，每个 HBM 封装内部都堆叠了多层 DRAMDie，各层 DRAMDie 之间以硅通孔（TSV）和微凸块（microbump）连接，最后连接到下层的 HBM 控制器的逻辑 die。因此 HBM 的独特性主要体现在堆叠与互联上。

对于制造材料，HBM 核心之一在于堆叠，HBM3 更是实现了 12 层核心 Die 的堆叠，多层堆叠对于制造材料尤其是前驱体的用量成倍提升；

对于封装材料，HBM 将带动 TSV 和晶圆级封装需求增长，而且对封装高度、散热性能提出更高要求。

风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。