p

更多

IDx 5G 高通 特斯拉 小米 騰訊 大眾 谷歌 英特爾 三星 百度 華為 蘋果 微軟 360 iPhone 通用

芯東西（公眾號：aichip001）

作者 |  ZeR0 程茜

編輯 |  漠影

芯東西 3 月 22 日報道，全球 AI 計算技術盛會、一年一度的英偉達 GTC 大會如期而至！

英偉達 CEO 黃仁勳（暱稱 “老黃”）一如既往穿着標誌性的皮衣進行了 78 分鐘演講，滿面笑容地分享英偉達又悶聲幹了哪些大事。

總體來看，此次演講可總結成一大「亮點」和一大「重點」。

「亮點」是英偉達秘密研發四年，向芯片製造業甩出一枚技術 “核彈”——通過突破性的 光刻計算庫 cuLitho ， 將計算光刻加速 40 倍以上 ，使得 2nm 及更先進芯片的生產成為可能 。全球最大晶圓廠台積電、全球光刻機霸主阿斯麥、全球最大 EDA 巨頭新思科技均參與合作並引入這項技術。

老黃還直接上了一堂 光刻機小課堂 ，配合動畫講解芯片製造的最關鍵設備光刻機是如何運作的。

「重點」毫無疑問是 生成式 AI 。

老黃對 OpenAI 的 ChatGPT 讚不絕口，誇它 “震驚世界”，代表着 “ 嶄新的計算平台已經誕生，AI 的「iPhone 時刻」已經到來 ”。

據英偉達透露， OpenAI 將在微軟 Azure 超級計算機上使用英偉達 H100 GPU，AI 文生圖明星創企 Stability.ai 是 H100 GPU 的早期訪問客户。

為了加速生成式 AI 開發及部署，老黃宣佈推出 3 款 全新推理 GPU ，分別擅長 AI 視頻、圖像生成、ChatGPT 等大型語言模型的推理加速。

此外，英偉達還發布了 AI 超級計算服務 DGX Cloud 、 加速企業創建大模型和生成式 AI 的雲服務 NVIDIA AI Foundations 等，並宣佈與日本三菱聯合打造了 日本第一台用於加速藥研的生成式 AI 超級計算機 。

英偉達也發佈了一系列面向元宇宙、汽車、量子計算領域的新進展，包括 PaaS 服務 NVIDIA Omniverse Cloud 現已向特定企業開放、與寶馬集團擴大合作建設虛擬工廠、比亞迪更多車型將採用 NVIDIA DRIVE Orin 平台，以及與 Quantum Machines 合作推出了 全球首個 GPU 加速量子計算系統 。

老黃宣佈，英偉達已經更新了 100 個加速庫 ，目前英偉達全球生態系統已覆蓋 400 萬開發人員、4 萬家公司和 1.4 萬家初創公司。

一、芯片製造炸場！將計算光刻提速 40 倍，三大半導體巨頭站台

我們先來看看今天的 “驚喜彈”：英偉達發佈了一個造福先進芯片製造的突破性技術—— NVIDIA cuLitho 計算光刻庫 。

光刻是芯片製造過程中最複雜、最昂貴、最關鍵的環節，其成本約佔整個硅片加工成本的 1/3 甚至更多。計算光刻模擬了光通過光學元件並與光刻膠相互作用時的行為，應用逆物理算法來預測掩膜板上的圖案，以便在晶圓上生成最終圖案。

簡而言之，計算光刻是提高光刻分辨率、推動芯片製造達到 2nm 及更先進節點 的關鍵手段。

“計算光刻是芯片設計和製造領域中 最大的計算工作負載 ，每年消耗 數百億 CPU 小時 。” 黃仁勳講解道，“大型數據中心 24×7 全天候運行，以便創建用於光刻系統的掩膜板。這些數據中心是芯片製造商每年投資 近 2000 億美元 的資本支出的一部分。”

而 cuLitho 能夠 將計算光刻的速度提高到原來的 40 p。老黃説，英偉達 H100 GPU 需要 89 塊掩膜板，在 CPU 上運行時，處理單個掩膜板需要 兩週 時間，而在 GPU 上運行 cuLitho 只需 8 小時 。

此外，台積電可通過在 500 個 DGX H100 系統 上使用 cuLitho 加速，將功率從 35MW 降至 5MW ，替代此前用於計算光刻的 40000 台 CPU p。 使用 cuLitho 的晶圓廠，每天可以生產 3-5 倍多 的光掩膜，僅使用當前配置電力的 1/9 。

全球最大晶圓廠台積電、全球最大光刻機制造商阿斯麥（ASML）、全球最大 EDA 公司新思科技（Synopsys）都為這項新技術站台。老黃透露道，cuLitho 歷時四年研發，與這三家芯片大廠進行了密切合作。台積電將於 6 月開始對 cuLitho 進行生產資格認證。

台積電 CEO 魏哲家誇讚它為台積電在芯片製造中廣泛地部署光刻解決方案開闢了新的可能性，為半導體規模化做出重要貢獻。阿斯麥 CEO Peter Wennink 説阿斯麥計劃將對 GPU 的支持集成到其所有的計算光刻軟件產品中。

新思科技董事長兼 CEO Aart de Geus 稱，在英偉達的 cuLitho 平台上運行新思科技的光學鄰近校正（OPC）軟件，將性能 從幾周加速到幾天 。

cuLitho 將有助於晶圓廠縮短原型週期時間、提高產量、減少碳排放，為 2nm 及更先進的工藝奠定基礎，並使得曲線掩模、high NA EUV、亞原子級光刻膠模型等新技術節點所需的新型解決方案和創新技術成為可能。

二、發佈 ChatGPT 專用推理 GPU ，登瀏覽器即可訪問 AI 超級計算機

圍繞生成式 AI，英偉達發佈了一系列加速模型訓練和推理的軟硬件新品及服務。

老黃首先講述了英偉達在生成式 AI 革命之初是如何進入 AI 領域的。

“英偉達加速計算始於 DGX（AI 超級計算機），這是大型語言模型實現突破背後的引擎。” 他談道，“（2016 年）我親手將全球首款 DGX 交給了 OpenAI ，自此以後，《財富》100 強企業中有 一半 安裝了 DGX AI 超級計算機。DGX 已成為 AI 領域的必備工具。”

“ 生成式 AI 將重塑幾乎所有行業。 ” 老黃説，ChatGPT、Stable Diffusion、DALL-E 和 Midjourney 喚醒了世界對生成式 AI 的認知。

在他看來，生成式 AI 是一種 新型計算機 、一種可以用人類語言進行編程的計算機，與個人電腦（PC）、互聯網、移動設備和雲類似，這種能力影響深遠，每個人都可以命令計算機來解決問題， 現在每個人都可以是程序員 。

1 、訓練：生成式 AI 明星企業都在用， AI 超級計算機已全面投產

訓練方面，英偉達 H100 GPU 基於 Hopper 架構及其內置 Transformer Engine，針對生成式 AI、大型語言模型和推薦系統的開發、訓練和部署進行了優化，利用 FP8 精度在大型語言模型上比上一代 A100 提供了快 9 倍的 AI 訓練和快 30 倍的 AI 推理。

DGX H100 擁有 8 個 H100 GPU 模組，在 FP8 精度下可提供 32PetaFLOPS 的算力，並提供完整的英偉達 AI 軟件堆棧，助力簡化 AI 開發。黃仁勳宣佈， NVIDIA DGX H100 AI p ，很快將面向全球企業。微軟宣佈 Azure 將向其 H100 AI 超級計算機開放私人預覽版。

黃仁勳説， 雲計算巨頭現在正在提供英偉達 H100  GPU ，生成式 AI 領域的多家明星企業都在用 H100 p。

比如， OpenAI 用 H100 的上一代 A100 訓練和運行 AI 聊天機器人 ChatGPT，並將在微軟 Azure 超級計算機上使用 H100；AI 文生圖明星創企 Stability.ai 是 AWS 上的 H100 早期訪問客户。

最近剛推出開源大模型的社交軟件巨頭 Meta 開發了基於 Hopper 架構的 AI 超級計算機 Grand Teton 系統。相比其前代 Zion，該系統的算力大幅提升，可同時支持推薦模型和內容理解的訓練和推理。

英偉達與其主要合作伙伴宣佈推出強大的 GPU NVIDIA H100 Tensor Core GPU 新產品和服務，以滿足生成式 AI 訓練和推理需求。

AWS 宣佈即將推出的 EC2 超級集羣（EC2 P5 實例）可擴展至 20000 個互連的 H100 。 Oracle Cloud Infrastructure（ OCI ）宣佈限量推出採用 H100 的全新 OCI Compute 裸金屬 GPU 實例。

為企業和開發者提供多模態視頻理解的平台 Twelve Labs 計劃在 OCI Supercluster 上使用 H100 實例來即時、智能和容易搜索視頻。

2 、推理：發佈 3 款 GPU、3 類雲服務

推理方面，英偉達推出全新 GPU 推理平台：4 種配置（L4 Tensor Core GPU、L40 GPU、H100 NVL GPU、Grace Hopper 超級芯片）、一個體系架構、一個軟件棧，分別用於加速 AI 視頻、圖像生成、大型語言模型部署和推薦系統。

（ 1 ）L4 ： 針對 AI 視頻設計的通用 GPU，可提供比 p ， 能效提高 99% ；優化了視頻解碼與轉碼、視頻內容審核、視頻通話等功能，如背景替換、重新打光、眼神交流、轉錄和實時翻譯等。 一台 8-GPU L4 服務器 將取代 100 多台用於處理 AI 視頻的雙插槽 CPU 服務器 。

（ 2 ）L40 ： 用於圖像生成，針對圖形和 AI 支持的 2D、視頻和 3D 圖像生成進行了優化， 推理性能是英偉達最受歡迎的雲推理 GPU T4 的 10 倍 。

（ 3 ）H100 NVL ： 針對 ChatGPT 等大型語言模型的大規模部署，配備 雙 GPU NVLink， 將兩張擁有 94GB HBM3 顯存 的 PCIe H100 GPU 拼接在一起，可處理擁有 1750 億參數的 GPT-3 大模型，同時支持商用 PCIe 服務器輕鬆擴展。

老黃説，目前在雲上唯一可以實際處理 ChatGPT 的 GPU 是 HGX A100。與適用於 GPT-3 處理的 HGX A100 相比， 一台搭載 4 對 H100 及雙 GPU NVLink 的標準服務器的速度要快 10 倍， H100 p。

（ 4 ）Grace Hopper 超級芯片： 適用於推薦系統和大型語言模型的 AI 數據庫，圖推薦模型、向量數據庫和圖神經網絡的理想選擇，通過 900GB/s 的高速一致性芯片到芯片接口連接英偉達 Grace CPU 和 Hopper GPU。

谷歌雲是第一個向客户提供英偉達 L4 推理 GPU 的雲服務提供商。谷歌還將 L4 集成到其 Vertex AI 模型商店中。

3 、雲服務：登瀏覽器即可訪問 AI 超級計算機

英偉達推出了一項名為 DGX Cloud 的 AI 超級計算服務，與微軟 Azure、谷歌 OCP、Oracle OCI 合作，通過一個 Web 瀏覽器就能訪問，以便企業為生成式 AI 和其他開創性應用訓練先進的模型。

DGX Cloud 實例的起價為每個實例每月 36999 美元 。其每個實例都具有 8 個 NVIDIA H100 或 A100 80GB Tensor Core GPU，每個節點共有 640GB 的 GPU 內存。DGX Cloud 提供了專用的 NVIDIA DGX AI 超級計算集羣，並配備了 NVIDIA AI 軟件。

英偉達還推出了 全新雲服務及代工廠 NVIDIA AI Foundations ，使企業能夠構建、改進、運營使用其專有數據訓練的、用於特定領域任務的定製大模型和生成式 AI 模型：

（ 1 ）NeMo ： 文本生成模型構建服務，提供從 80 億到 5300 億個參數的模型，會定期更新額外的訓練數據，幫助企業為客服、企業搜索、聊天機器人、市場情報等生成式 AI 應用進行模型定製。

（ 2 ）Picasso ： 視覺語言模型構建服務，具有先進的文生圖、文本轉視頻、文本轉 3D 功能，可為產品設計、數字孿生、角色創建等使用自然文本提示的應用快速創建和定製視覺內容。

（ 3 ）BioNeMo ： 生命科學服務，提供 AI 模型訓練和推理，加速藥物研發中最耗時和成本最高的階段，可加速新蛋白質和治療方法的創建以及基因組學、化學、生物學和分子動力學研究。

直接在瀏覽器上或通過 API，均可訪問這些運行在 NVIDIA DGX Cloud 上的雲服務。NeMo、BioNeMo 雲服務已開放早期訪問，Picasso 雲服務正在私人預覽中。

英偉達也宣佈了一系列跟生成式 AI 相關的合作進展，包括與 Adobe 合作開發新一代先進的生成式 AI 模型；與 Getty Images 合作訓練負責任的文生圖、文本轉視頻基礎模型；與 Shutterstock 合作，訓練從簡單文本提示中創建生成式 3D 模型，將創作時間從幾小時減少到幾分鐘。

此外，英偉達與三菱聯合發佈了將用於加速藥物研發的 日本第一台生成式 AI 超級計算機 Tokyo-1 。通過在 Tokyo-1 上使用 NVIDIA BioNeMo 軟件，研究人員能運行高達數十億參數的先進 AI 模型，包括蛋白質結構預測、小分子生成、姿態估計等。

三、 BlueField-3 DPU 已投產，打造全球首個 GPU 加速量子計算系統

數據處理單元（DPU）方面，黃仁勳宣佈 英偉達 BlueField-3 DPU 已投入生產 ，並被百度、CoreWeave、京東、微軟 Azure、Oracle OCI、騰訊遊戲等領先的雲服務提供商所採用，以加速其雲計算平台。

面向量子計算 ，要從量子噪聲和退相干中恢復數據，需要對大量量子比特進行糾錯。對此，英偉達與 Quantum Machines 合作推出了一個量子控制鏈路，它可將英偉達 GPU 連接到量子計算機，以極快的速度進行糾錯。

雙方合作研發的 全球首個 GPU 加速量子計算系統 NVIDIA DGX Quantum ，將強大的加速計算平台（由 NVIDIA Grace Hopper 超級芯片和 CUDA 量子開源編程模型支持）與全球最先進的量子控制平台 OPX 結合在一起，使研究人員能夠構建強大的應用，將量子計算與最先進的經典計算結合起來，實現校準、控制、量子糾錯和混合算法。

NVIDIA DGX Quantum 的核心是 NVIDIA Grace Hopper 系統，通過 PCIe 連接到通用量子控制系統 Quantum Machines OPX+，實現 QPU 和量子之間的亞微秒延遲處理單元（QPU）。

DGX Quantum 還為開發人員配備了一款強大的 混合 GPU-Quantum 編程模型 NVIDIA CUDA Quantum ，可以在一個系統中集成 QPU、GPU、CPU 並進行編程。多家量子硬件公司將 CUDA Quantum 集成到他們的平台中。

美國通信巨頭 AT&amp;T 宣佈與英偉達合作，使用英偉達全套 AI 平台改進運營並提高可持續性。AT&amp;T 將使用英偉達 AI 平台進行數據處理、優化服務排隊、創建員工支持和培訓的對話式 AI 數字化形象。

四、推出新一代元宇宙服務器，引入生成式 AI 和模擬仿真更新

面向元宇宙領域，英偉達推出了 第三代 OVX 計算系統 和 新一代工作站 ，為基於 NVIDIA Omniverse Enterprise 的大規模數字孿生提供動力。

第三代 OVX 服務器 通過組合雙 CPU 平台、BlueField-3 DPU、L40 GPU、兩個 ConnectX-7 SmartNIC 和 NVIDIA Spectrum 以太網平台，提供了突破性的圖形和 AI 性能，可加速大規模數字孿生模擬等應用，進而提高運營效率和預測性規劃功能。

企業可以利用 OVX 性能在可視化、虛擬工作站和數據中心處理工作流程等方面進行協作。

此外， 新一代 NVIDIA RTX 工作站 RTX 4000 SFF Ada Generation 採用英偉達 Ada Lovelace GPU、ConnectX-6 Dx SmartNIC 和英特爾至強處理器。最新發布的 RTX 5000 Ada 一代筆記本電腦 GPU 使專業人士能隨時隨地訪問 Omniverse 和工業元宇宙工作負載。

黃仁勳還宣佈了英偉達用於構建和操作元宇宙應用的平台 NVIDIA Omniverse 的相關更新，增加了一系列生成式 AI、模擬仿真相關功能，讓開發者能夠更輕鬆地部署工業元宇宙應用。

平台即服務（ PaaS ）NVIDIA Omniverse Cloud 現已面向特定企業開放 ，使企業能夠在其核心產品和業務流程中統一數字化。

“從大型物理設施到手持消費品，每一個人造物體都有一天會擁有一個數字孿生，用來建造、操作和優化物體。” 黃仁勳説，“Omniverse Cloud 是用於工業數字化的從數字到物理的操作系統，它的出現正好趕上了正在建設的價值數萬億美元的新電動汽車、電池和芯片工廠。”

英偉達選擇微軟 Azure 作為 Omniverse Cloud 的首個雲服務提供商 。由 NVIDIA OVX 計算系統提供支持的 Omniverse Cloud 將於今年下半年與微軟 Azure 一起推出。企業可訪問 Omniverse 軟件應用程序的全堆棧套件和 NVIDIA OVX 基礎設施，並享有 Azure 雲服務的規模和安全性。

Azure 上 Omniverse Cloud 的新訂閲服務使汽車團隊可輕鬆實現工作流程的數字化，無論是連接 3D 設計工具以加速汽車開發，還是構建汽車的數字孿生工廠或運行閉環模擬來測試車輛性能。

老黃在演講期間分享了一個視頻，展示亞馬遜如何用英偉達 Omniverse 平台構建完全逼真的數字孿生機器人倉庫，以節省時間和金錢。

p。寶馬集團將英偉達 Omniverse 平台用在其全球生產網絡中構建和運行工業元宇宙應用。

此外，英偉達與其合作伙伴發佈了全新的 Omniverse Connections，通過通用場景描述（USD）框架連接更多世界更多先進應用。

結語：生成式 AI 引發了全球企業緊迫感

“生成式 AI 正在推動 AI 的快速應用，並重塑無數行業。” 老黃説，“我們正處於 AI 的「iPhone 時刻」，初創公司競相構建具有顛覆性的產品和商業模式，老牌公司則在尋求應對之策，生成式 AI 引發了全球企業制定 AI 戰略的緊迫感。”

從今日英偉達的一系列軟硬件發佈，可以看到英偉達對先進 AI 計算的支撐已經覆蓋到從 GPU、DPU 等硬件到幫助企業加速構建定製生成式 AI 模型的雲服務，進而推動釋放人類的創造力。

這已經不是老黃第一次 “跳預言家” 了。英偉達的加速計算產品可以説是與 AI 產業的發展共生共榮。英偉達不斷為更大規模的 AI 模型訓練提供更強大的算力基座，對 AI 訓練和推理的前沿發展起到了重要推動力，蓬勃而生的 AI 熱潮又為英偉達帶來了更廣闊的市場和機遇。

如今，生成式 AI 所展現出的商用前景幾乎激勵着每個行業重新設想其商業戰略和實現這些戰略所需的技術。英偉達正與其合作伙伴迅速行動，為 AI 應用提供更強大的計算平台，讓更多人從生成式 AI 等前沿應用的變革性力量中受益。

0

台積電

相關推薦

加載更多...

台積電

<p>黃仁勳：生成式 AI 是新型計算機，我們正處於 AI 的 “iPhone 時刻”！</p>

黃仁勳向台積電放核彈！幹掉 40000 台 CPU 服務器，計算光刻提速 40 倍