賽道 Hyper | 同室操戈:三星存儲搏殺海力士

華爾街見聞
2024.04.27 03:02
portai
I'm PortAI, I can summarize articles.

韓國 SK 海力士和三星電子在高帶寬內存(HBM)領域展開競爭,海力士暫時領先。HBM 作為 AI 加速卡的核心硬件,成本佔比最高,因此成為各方關注的焦點。海力士已開始量產第五代 HBM3E 存儲器,而三星計劃在今年量產 HBM3E,並向英偉達供貨。此外,美光科技也參與競爭,其技術實力有可能逆襲。三方競爭加劇了 AI 加速卡、大語言模型和 HBM 的競爭熱度。

作者:周源/華爾街見聞

儘管英偉達最近股價連續下挫,但 GenAI(生成式 AI:Generative Artificial Intelligence,也稱 GAI)為上游高帶寬內存(HBM)為存儲行業帶來了久違的景氣度。

HBM 佔通用內存市場的 15%,而 2022 年這一比例為 8%(數據來源:路透社)。

因未來可見的巨大收益,全球頂尖 HBM 生產商——韓國 SK 海力士和三星電子,兩虎激鬥,如火如荼。

目前,海力士在 HBM 品類上暫時領先。三星的對策是奮起直追以縮小與海力士的 HBM 差距,同時在 CXL(計算快速鏈接:Compute Express Link)和 GDDR 7 兩個賽道開啓新戰局。

在這場混戰中,美光科技也沒閒着,其技術實力也有逆襲可能。

三方混戰:美光科技突襲

GAI 技術推升了 AI 加速卡(GPU/ASIC/FPGA)、大語言模型(LLM)和 HBM(High Bandwidth Memory)的競爭熱度。

其中,HBM 是 AI 加速卡的核心硬件,成本佔比最高,所以也成為各方角逐的焦點。

英偉達 H100 系列 AI 加速卡,從成本結構看,佔比最高的是來自海力士的 HBM,成本高達約 2000 美元,超過製造和封裝,而 H100 總的官方零售價約 3000 美元(黑市價格遠超)。因此,HBM 在 AI 加速卡中的成本佔比高達 67%。

如此之高的收益,引來 SK 海力士和三星的同根相煎:雙方互有勝負,打得有來有回。總體上,SK 海力士暫時領先。

今年 1 月,海力士開始量產 8 層第五代高帶寬存儲器(HBM3E),並取得早期領先。三星電子計劃在今年上半年開始量產 8 層 HBM3E;2 月宣佈成功開發 12 層 HBM3E。

根據既定計劃,三星電子將在今年四季度量產 HBM3E,向英偉達供貨。海力士這次又再次領先,今年二季度向英偉達交付 HBM3E 原型。但美光科技斜刺裏殺將出來,提前取得供應商資格。

2024 年英偉達 AI 加速卡型號在市場中銷量最高的是 H100,其上搭載的是 HBM3(第四代)。SK 海力士是最主要供應商,但因為 HBM 生產週期較長,故而海力士的 HBM3 產能不足以滿足英偉達全部需求。2023 年底,三星電子進入英偉達 H100 供應鏈,但佔比較小。

三星電子的 HBM3 主要供應 AMD,這是三星電子的長期重要的供應策略合作伙伴。目前,三星 HBM3 陸續通過 AMD MI300 系列驗證。從今年二季度開始,三星電子的 HBM3 將逐漸放量,主要供應方就是 AMD,還有一小部分供應英偉達。

在 HBM3 的競爭格局中,只有 SK 海力士和三星電子有技術和量產能力,美光科技沒能擠進。其中,海力士佔據競爭上風。

2024 年,隨着英偉達新一代 AI 加速卡 H200 和 B100 量產的逐漸臨近,HBM3E 將取代 HBM3 成為競爭主流代際產品。

據 TrendForce 集邦諮詢調查所得,2024 年一季度,SK 海力士率先通過 HBM3E 驗證,美光科技緊跟其後,並於一季度末遞交 HBM3E 量產品,以搭配計劃在第二季末鋪貨的英偉達 H200。

美光科技此舉不啻是對海力士的一次背刺,搶先海力士一步,率先獲得了英偉達用於新款 H200 的 HBM3E 訂單。

美光之所以率先獲得英偉達用於 H200 的 HBM3E 訂單,在近期競爭中佔據主動,憑藉的是工藝上的優勢。目前 SK 海力士佔據了 54% 的 HBM 市場,而美光僅為 10%,但隨着手握英偉達的供應協議,形勢可能很快會發生變化。

三星電子的 HBM3E 驗證時間稍晚於海力士和美光科技。根據已知信息,三星也將在二季度供貨英偉達,但也有消息稱三星電子目前尚未進入英偉達 H200 供應鏈。對此,三星電子官方沒有進一步明確消息。

好在 AMD 給力。4 月 24 日有韓媒報道稱,三星電子和 AMD 簽署了價值 4 萬億韓元(摺合 21.77 億美元)的 HBM3E 12H 供貨合同。三星電子宣稱,在人工智能應用中,採用 HBM3E 12H 預計比 HBM3E 8H 的訓練平均速度提高 34%,同時推理服務用户數量也將增加 11.5 倍 +。

另外,目前仍沒有消息顯示三星電子的 HMB3 良率提升。此前,有未獲官方驗證的市場消息稱,三星電子 HBM3 的良率至高也沒超過 20%,而 SK 海力士則最高達到了 70%。

新戰場:HBM4+GDDR7

三星電子在 HBM3 和 HBM3E 相較於 SK 海力士甚至美光科技,都有些許落後。於是寄望下一代 HBM4。

三星電子的 HBM4 還在開發中。根據技術路線規劃,三星電子 HBM4 將於 2025 年首次亮相,但三星還沒有公佈其 HBM4 代號,之前的 HBM3 和 HBM3E 的代號分別是 “Icebolt” 和 “Shinebolt”。

當然,海力士 HBM4 也還在開發,合作方是台積電。4 與 19 日,SK 海力士宣佈和台積電簽署諒解備忘錄(MOU),推進 HBM4 研發和下一代封裝技術,目標在 2026 年投產 HBM4。

根據雙方簽署的諒解備忘錄,兩家公司初期目標是改善 HBM 封裝內最底層基礎裸片(Base Die)的性能。

HBM 是將多個 DRAM 裸片(即 Core Die)堆疊在基礎裸片上,通過 TSV(硅通孔:Through-Silicon Via)技術垂直連接而成。其中,基礎裸片也連接至 GPU,在 HBM 中扮演重要角色。

在此次與台積電的合作之前,海力士 HBM 所有基礎裸片製造工藝都採用自研技術,但從 HBM4 開始,基礎裸片製造工藝將改用台積電的先進邏輯(Logic)工藝。在封裝成片環節,海力士 HBM4 將嘗試採用台積電的 CoWoS 技術,以滿足定製化(Customized)的性能和功效需求。

值得一提的是海力士也像三星電子一樣,選擇結盟合作伙伴。海力士選擇了台積電:今年 2 月,海力士制定了 One Team 戰略,通過與台積電的合作,建立 AI 半導體同盟,以期鞏固其在 HBM 領域的領先優勢。

可見,海力士選擇台積電是因為後者的製造和封裝能力,而三星電子自己就有與台積電相類似的技術,故而三星電子的合作方選用供應鏈的直接客户。

與台積電 CoWoS 封裝技術不同,三星電子採用的是 TC-NCF(Thermal Compression with Non-Conductive Film),也就是非導電薄膜熱壓縮。

三星電子在描述這項技術時説:“這種方法的優點是可以最大限度地減少隨着層數增加和芯片厚度減小而可能發生的翹曲,使其更適合構建更高的堆棧”。

今年 2 月,三星電子更新此項技術至 “Advanced TC-NCF”,能減少 TC-NCF 工藝中必要薄膜的厚度,從而在保持 HBM 高度的同時增加半導體層數。

三星 HBM3E 層數多達 12 層(H),實現了業界最小的 7 微米 (um) 芯片間距,是目前 HBM 市場中層數最大的產品,這是 TC-NCF 封裝技術的結果。

三星認為,HBM 市場仍處於早期階段,預計市場格局將迅速發生變化。三星電子的策略是通過預測市場發展並提前主動規劃和開發必要的產品來保持領先地位。

值得一提的是,三星和 SK 海力士在 GTC 2024 上展示了即將推出的 GDDR7 內存解決方案,有望比預期更早進入市場。GDDR7 將提供更高的帶寬和更低的功耗,為即將推出的顯卡提供性能顯著的提升。

美光科技預計 GDDR7 解決方案將於 2024 年底推出,以符合 JEDEC 標準。SK 海力士和三星已展示產品。據三星稱,GDDR7 速度將高達 32 Gbps,而 SK 海力士則表示將提供高達 40 Gbps 的 GDDR7 芯片。