
又一次超預期後,英偉達財報電話會説了什麼?(附全文)

英偉達財報電話會透露,Blackwell 芯片將在今年二季度發貨,三季度增產,並在第四季度投放到數據中心。此外,黃仁勳還表示,在 Blackwell 芯片之後還將推出另一款芯片,實現 “一年一代”。另外,全球首個專為 AI 設計的高性能以太網架構 Spectrum-X 預計將在一年內實現數十億美元的營收。英偉達預計推理驅動了數據中心約 40% 的收入。總之,英偉達的財報電話會透露了公司產品發展和財務狀況的重要信息。
黃仁勳在當地時間週三召開的英偉達財報電話會上表示,Blackwell 芯片產品將在今年二季度發貨、三季度增產、四季度投放到數據中心,今年就會看到 “Blackwell 芯片營收顯著增長”,並且在 Blackwell 芯片之後會有另一款芯片推出,實現 “一年一代”。
關於以太網絡的營收貢獻,同樣參加電話會議的首席財務官科萊特·克雷斯表示,全球首個專為 AI 設計的高性能以太網架構 Spectrum-X,正在為英偉達打開一個全新的市場,目前正在與多家客户進行量產,其中包括一個 10 萬 GPU 的大型集羣。公司預計 Spectrum X 將在一年內躍升至數十億美元的產品線。
關於推理收入,科萊特·克雷斯表示,公司預計推理能力將隨着模型複雜度、用户數量和每用户查詢次數的增加而擴大 。在過去的四個季度中,估計推理驅動了我們數據中心約 40% 的收入。
伯恩斯坦研究公司 Stacy Rascan:
我的第一個問題是,我想深入瞭解一下 blackwell 的評論,這對生產來説很重要。
現在。這是否暗示了發貨和交付時間?如果該產品不再只是樣品,那麼當它實際上到達客户手中時,這意味着什麼?
黃仁勳:
如果它現在正在生產,我們將會發貨,我們已經生產了一段時間。
但我們的生產發貨將在第二季度開始,並在第三季度增加,客户應該在第四季度建立數據中心。
Stacy Rascan:
明白了。所以今年,聽起來我們將看到 Blackwell 的收入。
黃仁勳:
我們今年將會看到很多 Blackwell 的收入。
美國哥倫比亞廣播公司(CBS)Timothy R. Curry:
我想問 Jensen 關於 Blackwell 的部署。 您知道的,與 Hopper 相比,考慮到系統的特性,以及您對,您知道的,GB 的需求,部署這個產品與 Hopper 有什麼不同?
我這樣問是因為在大規模上進行液態冷卻以前沒有做過,而且在節點級別和數據中心內部都存在一些工程挑戰。那麼這些複雜性是否會延長過渡期?您如何看待這一切的進展?謝謝。
黃仁勳:
是的,Blackwell 有很多配置。Blackwell 是一個平台,而不是一個 GPU。該平台包括支持空氣冷卻、液態冷卻 x 86 和 Grace 無限帶。現在 Spectrum X,非常大的 MV Link 域,我在 GTC 上展示了 GTC。
因此,對於一些客户來説,他們將進入他們現有的數據中心安裝基礎,這些數據中心已經在運輸 hoppers。他們將很容易地從 H100 過渡到 H200 到 BE 100。
因此,Blackwell 系統已經被設計為向後兼容,如果您願意的話,從電氣和機械角度。當然,運行在 Hopper 上的軟件將在 Blackwell 上運行得非常好。
我們還一直在為整個生態系統做好準備,讓他們為液態冷卻做好準備。我們已經與生態系統中的 Blackwell 談論了很長時間。而且 CSPs、數據中心、ODMs、系統製造商、我們的供應鏈、他們的供應鏈、液態冷卻供應鏈、數據中心供應鏈,沒有人會對 Blackwell 的到來以及我們希望以 Grace Blackwell 200 GB 交付的能力感到驚訝。GB 200 將非常出色。
美國銀行證券分析師 Beck Aria:
謝謝您接受我的問題,Jensen。您如何確保您的產品有足夠的利用率,並且不會因為供應緊張、競爭或其他因素而出現提前拉動或持有行為?
您在系統中建立了哪些檢查,以使我們相信貨幣化與您非常、非常強勁的發貨道路保持同步?
黃仁勳:
我想先給出一個宏觀的視角,然後直接回答您的問題。
GPU 在所有數據中心的需求是驚人的。我們每天都在競跑,原因就是這樣,因為像 ChatGPT 和 GPT 4 o 這樣的應用程序,現在它將是多模態的,還有 Gemini 和它的坡道,以及所有 CSPs 正在進行的所有工作,都在消耗着每一個 GPU。還有一長串生成性 AI 初創公司,大約有 15,000 到 20,000 家初創公司,它們在各種領域,從多媒體到數字角色,當然,還有各種設計工具應用、生產力應用、數字生物學。
自動駕駛汽車行業正在轉向使用視頻數據,使他們能夠訓練端到端模型,擴大自動駕駛汽車的操作領域。這個列表非常特別。
我們正在競跑,實際上,客户對我們施加了很大的壓力,要求我們儘快交付系統並建立起來。
當然,我甚至還沒有提到所有希望訓練他們國家地區自然資源數據的國家,也就是他們的數據,以訓練他們地區模型。有很多壓力要求儘快建立這些系統。無論如何,我認為需求真的很高,而且長期來看供應不足。這就是我為什麼要發表一些長期評論的原因,對吧?
您知道,我們正在完全重新設計計算機的工作方式。當然,這已經被比作過去其他平台的轉變,但時間會清楚地表明,這比以往的平台轉變要深刻得多。原因就在於,計算機不再只是一台指令驅動的計算機。它是一個意圖理解的計算機。它當然理解我們與它的交互方式,但它也理解我們的意思,我們要求它做什麼,並且有能力進行推理、計劃和迭代處理,並提出解決方案。
因此,計算機的每一個方面都在以這樣的方式改變,即它不再檢索預錄的文件,而是現在生成與上下文相關的、智能的答案。因此,這將改變世界各地的計算堆棧。您看到了一個構建,事實上,即使是 PC 計算堆棧也將得到革命化。
而這僅僅是我們看到的,您知道,今天我們所看到的只是我們在實驗室中正在做的工作的開始,以及我們正在與世界各地的所有初創公司、大公司和開發人員一起做的事情,這將是非同尋常的。
摩根士丹利 Joe Moore:
我理解您剛剛關於需求有多強勁的評論,市場對 H200 和 Blackwell 產品有很大的需求。您是否預計在從這些產品過渡時,Hopper 和 H100 會有所暫停?人們會等待這些新產品嗎,這將是一個好產品?還是您認為對 H100 的需求足以維持增長?
黃仁勳:
我們看到這個季度 Hopper 的需求在增加,我們預計隨着我們過渡到 H 200,需求將超過供應一段時間,因為我們過渡到 Blackwell。我,每個人都急於讓他們的基礎設施上線。原因就是這樣,因為他們正在省錢和賺錢,他們希望儘快這樣做。
高盛 Toshiahari:
我想問關於競爭的問題。我想您的許多雲客户都宣佈了,您知道的,新的或對現有內部計劃的更新,與他們與您合作的工作同時進行,您在多大程度上將他們視為中長期競爭對手?在近期內,您認為他們是否主要限於解決內部工作負載?還是他們可以更廣泛地解決未來的問題?謝謝。
黃仁勳:
是的,我們有幾個不同之處。
首先,Nvidia 的加速計算架構允許客户處理他們整個流程的每一個方面,從處理非結構化數據準備訓練,到結構化數據處理、數據框架處理(如 SQL)準備訓練,再到訓練和推理。正如我在講話中提到的,推理已經發生了根本性的變化。現在是生成,不再只是試圖檢測貓(儘管這本身已經非常困難)。現在需要生成貓的每一個像素。所以生成過程是一個根本不同的處理架構,這也是 Tensor RTLM 備受歡迎的原因之一。”
我們在使用相同芯片的架構上提升了三倍的性能,這説明了我們的架構和軟件的豐富性。因此,首先,你可以使用 Nvidia 來處理從計算機視覺到圖像處理、計算機圖形學等所有計算模式。隨着世界現在遭受計算成本和計算能耗上漲的困擾,因為通用計算已經達到極限,加速計算才是可持續發展的方式。加速計算是你節省計算成本和能耗的途徑。因此,我們平台的多功能性為他們的數據中心帶來了最低的總體擁有成本(TCO)。
第二,我們從不在雲端。所以對於正在尋找平台進行開發的開發人員來説,從 Nvidia 開始總是一個不錯的選擇。我們,我們在本地。我們在雲端。你在任何大小和形狀的計算機上。我們幾乎無處不在。這就是第二個原因。
第三個原因與事實有關,你知道,我們構建 AI 工廠,這變得越來越明顯,AI 不僅僅是芯片問題。當然,它從非常好的芯片開始,我們為我們的 AI 工廠構建了很多芯片,但它是一個系統問題。
事實上,甚至 AI 現在是一個系統問題。它不僅僅是一個大型語言模型。它是一大堆大型語言模型的複雜系統,它們一起工作。所以 Nvidia 構建系統的事實使我們能夠優化我們所有的芯片,使它們作為一個系統一起工作,能夠擁有作為一個系統運行的軟件,並能夠在整個系統中進行優化。
現在,讓我們從一個簡單的數字角度來看,你知道,如果你有一個 5 億美元的基礎設施,你提高了兩倍的性能,這是我們通常做的。當你提高基礎設施的性能兩倍時,它的價值就增加了 10 億美元。所有數據中心的芯片並不能支付它。因此,它的價值確實非常特別。這就是為什麼今天性能至關重要的原因。
你知道,這是在最高性能也是最低成本的時候,因為攜帶所有這些芯片的基礎設施成本很高,資助數據中心、運營數據中心、隨之而來的複雜性,隨之而來的電力,隨之而來的房地產,你知道,所有這些都結束了。所以最高性能也是最低 TCO。
市場研究公司 TD Cowen 分析師 Matt Ramsey:
我在數據中心行業工作了一輩子。我從未見過你們推出的新平台的速度,以及你們獲得的性能提升。訓練速度提高了 5 倍,推理速度在 GTC 上提高了 30 倍,這真是一件令人驚歎的事情。
但這也創造了一個有趣的對比,那就是您當前一代產品,您的客户正在花費數十億美元,它將比產品的折舊週期更快地不再與您的新產品競爭。所以我想請您,如果您不介意的話,談一談您如何看待這種情況隨着 Blackwell 的推出而發展。
他們將擁有一個非常大的安裝基礎,顯然是軟件兼容的,但是有一個非常大的安裝基礎的產品,其性能遠不如您的新一代產品。我很想聽聽您對客户在這條道路上的看法。 是
黃仁勳:
我想提出三點。如果您的建設進度是 5%,而您的建設進度是 95%,您的感覺會非常不同。而且,因為您無論如何都只進行了 5% 的建設,您知道,您必須儘可能快地建造,當 Blackwell 到來時,它將是極好的。
然後,在 Blackwell 之後,正如您提到的,我們還有其他的 Blackwells 即將到來。然後,有一個短暫的,您知道的,我們以一年的節奏向世界解釋。我們希望我們的客户能看到我們的路線圖,儘可能地瞭解他們。
但他們無論如何都處於建設的早期階段,所以他們必須繼續建設,所以將會有很多芯片向他們襲來,他們只需要繼續建設,如果願意的話,通過性能平均化進入其中,所以這是聰明的做法。
他們今天需要賺錢。他們想今天省錢,而且時間對他們來説真的很有價值。
讓我給您舉一個時間非常有價值的例子,為什麼立即建立數據中心的想法如此有價值,以及獲得訓練時間如此有價值。原因就是這樣,因為下一個達到下一個主要里程碑的公司將宣佈一項突破性的 AI。而之後的第二個公司只能宣佈比原來好 0.3% 的東西。
所以問題是,您想成為反覆交付突破性 AI 的公司,還是想成為交付比原來好 0.3% 的公司?這就是為什麼這場比賽如此重要的原因,因為在所有技術競賽中,這場比賽非常重要。而且您正在看到這場競賽在多家公司中展開,因為這對公司來説非常關鍵,以信任領導力並想在您的平台上建設,並且知道他們正在建設的平台將越來越好。
所以領導力非常重要,訓練時間非常重要。提前三個月完成項目的時間,為了獲得訓練時間。您知道,提前三個月開始一個三個月的項目。提前三個月開始是一切。所以這就是為什麼我們現在如此瘋狂地建立 hopper 系統的原因,因為下一個里程碑就在拐角處。所以這就是第二個原因。
您剛才發表的第一個評論真的很棒,那就是,您知道,我們進展如此之快,進步如此之快,因為我們擁有所有這些統計數據。我們在這裏構建了整個數據中心,我們可以監控一切,測量一切,跨一切進行優化。
我們知道所有的瓶頸在哪裏。我們不是在猜測。我們不是在製作看起來不錯的 Powerpoint 幻燈片。我們實際上,您知道的,我們也喜歡我們的 Powerpoint 幻燈片看起來不錯,但我們正在交付在規模上表現出色的系統。我們之所以知道它們在規模上表現出色的原因是因為我們構建了它們所有。
現在,我們做的一件事有點奇蹟,那就是我們在這裏構建了整個 AI 基礎設施,但然後我們將其解聚並集成到客户的數據中心,無論他們喜歡什麼方式。但我們知道它將如何表現,我們知道瓶頸在哪裏,我們知道我們需要在哪裏與他們一起優化,我們知道我們需要幫助他們改進他們的基礎設施,以實現最佳性能。
這種對整個數據中心規模的深刻、親密的瞭解,基本上就是今天讓我們與眾不同的原因。您知道,我們從頭開始構建每一個芯片。我們確切地知道整個系統中的處理方式,所以我們知道它將如何表現,以及如何利用每一代產品獲得最佳效果。所以我很感激您提出的這三個觀點。
獨立投資銀行諮詢 Evercore 分析師 Marco Pacas:
在過去,您曾説過,通用計算生態系統通常主導了每個計算時代。我相信論點是它們可以適應不同的工作負載,獲得更高的利用率,推動計算週期下降。這是您推動通用 GPU 計算生態系統加速計算的動機。如果我誤解了您的觀察,請告訴我。
所以問題是,鑑於推動您解決方案需求的工作負載是由神經網絡訓練和推理驅動的,表面上看,這似乎是一個有限的工作負載數量,那麼它們也可能傾向於定製解決方案。那麼問題是,通用計算框架是否變得更加有風險?或者是否有足夠的變化性或這些工作流程的快速演變,支持那個歷史性的通用框架。謝謝。
黃仁勳:
是的,這些加速計算是多功能的,但我不會稱之為通用。比如,我們不會很擅長運行電子表格,您知道,這是為通用計算而設計的。而且,控制操作系統代碼的循環可能對通用計算不是很好,對我們的,對我們的,對我們的加速計算不是很好。
所以我會説我會説我們是多功能的,這通常是我描述它的方式。多年來,我們能夠加速的應用程序領域非常豐富,但它們都有很多的共同點。您知道,可能有一些深刻的差異,但有共同點,它們都是可以並行運行的。它們都是高度線程化的。5% 的代碼代表了 99% 的運行時間,
例如。這些都是加速計算的屬性。我們平台的多功能性和我們設計整個系統的事實是,在過去的 10 年左右,你們在這些電話會議中問我的初創公司的數量相當大。而且每一個,因為它們的架構非常脆弱,當生成性 AI 出現時,在擴散模型出現時,當下一個模型出現時,現在下一批模型即將出現。
然後突然之間,看看這些具有記憶的大型語言模型。因為大型語言模型需要有記憶,這樣它們才能與您進行對話,理解上下文。突然之間,Grace 內存的多功能性變得非常重要。所以每一個這些生成性 AI 的進步,以及 AI 的進步,真的需要的不是為一個模型設計的一個小部件,而是有一些對這個整個領域真正很好的部件。
但遵循軟件的首要原則,軟件將繼續發展,軟件將繼續變得更好更大。我們相信這些模型的擴展。有很多原因,我們將在未來幾年內輕鬆地擴展一百倍,我們期待着它,我們為此做好了準備。所以平台的多功能性真的是關鍵。而且,如果您太脆弱、太具體了,您可能只是建一個 FPGA 或者建一個 ASIC 或者類似的東西,但那幾乎不是一台計算機。
Raymond James 分析師 Serena Pajuri:
實際上,我想澄清一下你剛才説的關於 GB200 系統的內容。看起來對系統的需求非常強勁。歷史上,我認為你們賣出了很多 AGX 板卡和一些 GPU,而系統業務相對較小。所以我很好奇,為什麼現在你們看到對系統有這麼強的需求?這是因為 TCO(總體擁有成本)嗎?還是其他什麼原因?或者是因為架構?
黃仁勳:
謝謝你的提問。實際上,我們銷售 GB200 的方式是一樣的。我們分解所有有意義的組件,並將它們集成到計算機制造商中。今年我們有 100 種不同的計算機 SIS 配置即將推出用於 Blackwell,而這超出了預期。
坦白説,Hopper 只有一半的數量。而這是其巔峯,最初甚至遠少於此。你會看到液冷版本、風冷版本、x86 版本、Grace 版本等等。很多系統正在設計中,並由我們所有的優秀合作伙伴提供。基本沒有什麼變化。
當然,Blackwell 平台極大地擴展了我們的產品供應。CPU 的集成和更高密度的計算能力,液冷技術將為數據中心節省大量的資金和電力供應,不僅更節能,而且是一個更好的解決方案。它更昂貴,意味着我們為數據中心提供了更多的組件,每個人都會受益。
數據中心將從高性能網絡、網絡交換機中獲得更高的性能。當然,還有以太網。這樣我們就可以將 Nvidia AI 大規模地帶給那些只操作或只熟悉以太網的客户,因為他們的生態系統就是如此。因此,Blackwell 更加昂貴,我們這一代有更多的產品提供給我們的客户。”
Truest Securities 分析師 William Stein:
“很好。謝謝你回答我的問題,Jensen。在某個時刻,Nvidia 決定,雖然有一些相當不錯的 CPU 可用於數據中心操作,但你們的基於 ARM 的 Grace CPU 提供了一些真正的優勢,使得這種技術值得交付給客户,這可能與成本或功耗或 Grace 與 Hopper、Grace 與 Blackwell 之間的技術協同有關。
你能否談談是否在客户端也可能出現類似的動態情況?儘管有非常好的解決方案,比如你提到的 Intel 和 AMD 是非常好的合作伙伴,並且提供了出色的 x86 產品,但在新興的 AI 工作負載中,Nvidia 可能提供一些其他人難以實現的優勢。”
黃仁勳:
您提到了一些非常好的理由。對於許多應用程序,我們與 x 86 合作伙伴的合作確實非常好,我們共同構建了出色的系統。 但是 Grace 使我們能夠做一些在今天的系統配置中不可能的事情。Grace 和 Hopper 之間的內存系統是連貫且連接的。這兩個芯片之間的互連,你知道,把它們稱為兩個芯片幾乎很奇怪,因為它們就像一個超級芯片。它們通過這種每秒數 TB 的接口連接在一起。是的,這太棒了。而且,Grace 使用的內存是 lpddr。這是第一個數據中心級低功耗內存。所以我們在每個節點上都節省了很多電力。
最後,由於架構,因為我們可以用整個系統創建自己的架構,現在我們可以創建一個真正大的 MV Link 域,這對於下一代大型語言模型進行推理至關重要。所以你看到 GB 200 有一個 72 節點 MV Link 域。這就像 72 個 Blackwells 連接在一起,形成一個巨大的 GPU。所以我們需要 Grace Blackwells 才能做到這一點。所以我,如果有像那樣的機會,你知道,我們會探索它。而且,正如你在昨天的構建中看到的那樣,我認為非常棒。
正如 Satya 宣佈的下一代 PC 是 Copilot plus PC,它在 Nvidia 的 RTX GPU 上運行得非常好,這些 GPU 正在筆記本電腦上發貨。但它也支持 ARM,非常出色。所以它為系統創新打開了機會,即使是 PC。
Kendra Fitzgerald 分析師 CJ Muse:
我想問 Jensen 一個稍微長遠的問題。我知道 Blackwell 甚至還沒有發佈,但顯然投資者是前瞻性的,而且在潛在的 GPU 和客户的競爭不斷增加的情況下,您如何看待 Nvidia 在創新方面的步伐,過去十年的百萬倍擴展以及在精密度、Grace、連貫連接方面取得的真正令人印象深刻的進展。展望未來,未來十年需要解決哪些摩擦?我想更重要的是,您今天願意與我們分享什麼?
嗯,我可以宣佈,在 Blackwell 之後,還會有另一款芯片,我們將以一年為週期進行更新。因此,你們也可以指望我們以非常快的速度推出新的網絡技術。
我們正在發佈以太網的 Spectrum X,但我們完全投入以太網,我們有一個非常令人興奮的以太網路線圖。我們擁有豐富的合作伙伴生態系統。戴爾宣佈他們將 Spectrum X 推向市場。我們有豐富的合作伙伴和客户,他們將宣佈將我們整個人工智能工廠架構推向市場。
因此,對於那些希望獲得最終性能的公司,我們有無限帶寬計算結構。Infiniband 是一種計算結構,以太網和網絡。多年來,Infiniband 起初是一種計算結構,逐漸變成了一種越來越好的網絡。以太網是一個網絡。通過 Spectrum X,我們將使其成為一個更好的計算結構。我們致力於所有 3 個鏈接,從 Envy 鏈接,通勤計算結構到無限帶寬計算結構,再到以太網網絡計算結構。
因此,我們將以非常快的速度推進所有這三個方面。您將看到新的交換機、新的下一步、新的功能、運行在所有這三個方面的新軟件堆棧。新的 CPU、新的 GPU、新的網絡、下一步新的交換機、新的芯片數量以及所有這一切美好的事情都是運行在 Kuda 上,都運行我們的整個軟件堆棧。
因此,如果您今天投資我們的軟件堆棧,而不需要做任何事情,它只會變得越來越快。如果您今天投資我們的架構,而不需要做任何事情,它將變得越來越多的雲和越來越多的數據中心,一切都會變得更好。因此,我認為我們正在帶來的創新速度將一方面提高能力,另一方面降低 TCO。因此,我們應該能夠通過 Nvidia 架構為這個新時代的計算擴展,並開始這個新的工業革命,在那裏我們不再只是製造軟件,而是製造人工智能代幣,我們將以規模實現這一目標。謝謝。
