三星 CXL 全球首創，3D DRAM 路線圖公佈

據報道，三星推出了一款名為 CXL 分層內存混合內存模塊 (CMM-H TM：CXL Memory Module-Hybrid for Tiered Memory) 的新型 Compute Express Link (CXL) 附加卡，該卡添加了可由 CPU 和加速器遠程訪問的額外 RAM 和閃存。該擴展卡混合了高速 DRAM 和 NAND 閃存，旨在提供一種經濟高效的方式來提高服務器的內存容量，而無需使用本地安裝的 DDR5 內存，而這在超額認購的服務器中通常是不可行的。

三星的解決方案在 Compute Express Link (CXL) 上運行，這是一種開放式行業標準，可在 CPU 和加速器之間提供緩存一致性互連，從而允許 CPU 使用與利用 CXL 的連接設備相同的內存區域。遠程存儲器（或者在本例中為混合 RAM/閃存設備）可通過 PCIe 總線訪問，但代價是大約 170-250 納秒的延遲，或者大約是 NUMA 跳的成本。

CXL 於 2019 年推出，目前處於第三個版本，支持 PCIe 6.0。

CXL 規範支持三種類型的設備：Type 1 設備是缺乏本地內存的加速器，Type 2 設備是具有自己內存的加速器（例如具有 DDR 或 HBM 的 GPU、FPGA 和 ASIC），Type 3 設備由內存設備組成。三星設備屬於 Type 3 類別。

CMM-H TM 是三星 CMM-H CXL 內存解決方案的一個分支。三星表示，它是世界上第一個基於 FPGA 的分層 CXL 內存解決方案，旨在 “應對內存管理挑戰，減少停機時間，優化分層內存的調度，並最大限度地提高性能，同時顯着降低總擁有成本。”

這種新的 CMM-H 速度不如 DRAM；然而，它通過閃存增加了強大的容量，但通過擴展卡內置的巧妙的內存緩存功能隱藏了大量延遲。熱數據被轉移到卡的 DRAM 芯片中以提高速度，而較少使用的數據則存儲在 NAND 存儲中。三星表示，這種行為會自動發生，但某些應用程序和工作負載可以通過 API 向設備發出提高性能的提示。當然，這會增加緩存數據的一些延遲，這並不適合所有用例，特別是那些依賴嚴格 99% 性能的用例。

三星的新型擴展卡將為客户提供擴展服務器內存容量的新方法。隨着更先進的大型語言模型繼續要求其主機和加速器提供更多內存，這種新的設計範例變得越來越重要。

全球最大的存儲芯片製造商三星電子公司計劃於 2025 年推出人工智能行業遊戲規則改變者三維 (3D) DRAM，目前以規模較小的競爭對手 SK 海力士公司主導的全球人工智能半導體市場。

3D 為主導的 DRAM 芯片通過垂直互連單元而不是像目前那樣水平放置它們，能將單位面積的容量增加了三倍。相比之下，高帶寬內存（HBM）垂直互連多個 DRAM 芯片。據首爾的半導體行業消息知情人士週二透露，三星上個月在加利福尼亞州聖何塞舉行的全球芯片製造商聚會 Memcon 2024 上公佈了其 3D DRAM 開發路線圖。

這家總部位於韓國水原的巨頭計劃於 2025 年推出基於垂直溝道晶體管技術的早期版本 3D DRAM，該技術在構成單元的晶體管中該垂直設置溝道（電子流動的通道），並用充當開關的門。公司還計劃在 2030 年推出一個式 DRAM，將包括在內部的所有單元都在一起。

目前 DRAM 在主板上包含多達 620 億個單元，晶體管在平面上密集集成，這使得不可能避免漏電流和干擾。由於 3D DRAM 中的晶體管由於可以在同一上放置更多單元，因此 3D DRAM 預計將增加單位芯片內的容量。

3D DRAM 的基本容量為 100 GB，幾乎是當前可用 DRAM 最大容量 36 GB 的三倍。有消息稱，到 2030 年，全球 3D DRAM 市場可能會增長到 1000 億美元，但由於市場仍處於起步階段 AI 半導體市場的領導者該技術有望幫助三星審視全球 AI 半導體行業的王座，擊敗目前在 AI 芯片領域主導地位的 SK 海力士，他們在 AI 應用的 HBM、DRAM 全球市場中佔有 90% 的份額” 業內人士表示。

儘管三星的競爭對手（包括 SK 海力士和美光科技公司）一直在研究該技術，但尚未公佈任何 3D DRAM 的路線圖。SK 海力士在各個行業會議上介紹了其 3D DRAM 的概念。美光於 2019 年開始開發 3D DRAM，擁有約 30 項該技術專利，是三大芯片製造商中最多的。

十多年來，隨着智能手機等配備 DRAM 的電子設備變得更小、功能更多，全球 DRAM 行業一直在開發具有更大數據處理能力的更小芯片。人工智能的快速發展需要快速大規模處理數據，這一趨勢正在加劇。3DDRAM 預計將滿足此類芯片的需求，因為它比現有的 DRAM 更小，容量更大。

短期內，新型半導體可能用於智能手機和筆記本電腦等小型信息技術設備，這些設備需要高性能 DRAM 來實現設備上的 AI 功能。汽車行業預計將長期使用 3D DRAM，因為電動汽車和自動駕駛汽車需要能夠實時處理從道路收集的 DRAM 的大數據。

三星正在開發主導 3D DRAM 領域的技術，以期到 2027 年至 2028 年將其關鍵尺寸縮小到 8-9 納米 (nm)。最新的 DRAM 預計為 12 nm 左右。該公司還積極擴大 3D DRAM 研發人員隊伍它在其半導體研究中心針對該技術成立了下一代工藝開發團隊。

本文來源：半導體行業觀察，原文標題：《三星 CXL 全球首創，3D DRAM 路線圖公佈》