Morgan Stanley's view on the US stock market in 2024: Will NVIDIA be ambushed by the "inference side" of the chip industry?

“AI 和機器學習中的模型訓練市場不僅日新月異而且競爭激烈，其中 “性能” 是最關鍵的因素，能夠提供高性能解決方案的公司會更有競爭力。我們預計英偉達會繼續保持產品性能的領先地位，並且高性能產品將繼續維持其高溢價的定價權。”

英偉達營收增長或許會成為 2024 財年最大驚喜：

英偉達預計在 2024 財年的第四季度（該季度到 1 月截止）的營收將達到 200 億美元。這個數字不僅超出了市場預期，甚至還超過了業界半導體巨頭台積電對自己第四季度的營收預測。英偉達預測的營收不僅高，而且出人意料地高。

此外，英偉達預期的毛利率也比市場預期高出 20 個百分點。在半導體行業中，如此短時間內創造如此龐大的利潤實屬罕見，也引起了投資者對市場競爭格局的高度關注，投資者非常關注其他公司是否/何時/如何能夠競爭分走這部分超額利潤。

英偉達推出的 B100 產品性能領先，相較於亞馬遜和微軟的定製 ASIC 芯片要明年 2 月後才量產，在更看重技術能力而非成本的模型訓練市場領域，落後就要捱打：

我們預計在接下來的一段時間內，英偉達在以性能為核心的市場（如 AI 模型訓練市場）上將不會面臨太大的競爭壓力。英偉達新推出的 B100 產品在性能上相對於其已經領先的 H100 產品將有顯著提升，這將澆滅其他公司的競爭熱情。

而亞馬遜和微軟最近宣佈的定製 ASIC 芯片要到 2024 年 2 月之後才會量產，到那時，他們的產品將遠遠落後於最新技術水平，無法與英偉達的技術相抗衡。而在更看重技術能力而非成本的模型訓練市場領域，落後這麼多是沒有價值的。

英偉達的基因與其他公司有本質區別，每當英偉達推出新產品直接壓制了其他產品的吸引力：

歷史是未來的序章，英偉達不斷的努力已經多次提高了競爭對手的標準。在 20 世紀 90 年代和 2000 年初，GPU 供應商有幾十家。隨着行業的合併，英偉達許多早期競爭對手要麼停止運營，要麼被 AMD、英特爾等公司收購。

在 2010 年到 2014 年期間，儘管英偉達的年收入達到了大約 40 億美元的規模，規模可觀，但相比於英特爾當時的市值（大約是英偉達的十倍，超過 1000 億美元），這個市場規模對英特爾來説不足以促使他們投入大量資源進行競爭。在 AI 成為主流趨勢之前，其他大型半導體公司（如英特爾）對 GPU 市場的投入較少。

到了 2014 和 2015 年，當 AI 開始成為科技領域的熱門話題時（從 2012 年到 2015 年，AI 在風投資金中的份額翻倍），英偉達已經建立了以 GPU 為核心的壟斷性業務。自 2006 年英偉達通過推出 CUDA 技術，實際上創造了 GPU 計算市場，這使得公司的基因與其他公司有着根本的不同。

大約從 2015 年開始，人們普遍認識到，圖形處理的應用場景將迅速擴展到遊戲之外的其他領域。我們目睹了創業公司的再次興起，以及英特爾、AMD 以及雲服務提供商開始關注數據中心 GPU 市場，但除了谷歌的 TPU，其他競爭產品在訓練領域難以與英偉達相抗衡。長期以來，我們對與英偉達類似的解決方案進行了充分的調研，發現其他公司很難追趕上英偉達，他們與英偉達的差距難以彌合。而且我們經常看到，每當英偉達推出更新更強大的產品，提升了行業標準之後，直接壓制了競爭對手的產品吸引力。

在推理側，英偉達的性能自不必説，但成本可能也是應對競爭的關鍵因素：

在推理市場，雖然性能重要，但控制成本也同樣關鍵：在推理市場上，競爭相當激烈，主要是因為客户非常關注成本。雖然預計英偉達在這方面會表現良好，但客户的主要關注點是如何在保持適當的處理速度（延遲）的情況下，儘可能降低成本。對於大量的推理工作負載，主要客户能夠預見未來的工作負載情況，這使他們有足夠的時間和動機去進行深入的軟件優化，從而使服務成本更低。

推斷市場成功的關鍵因素：對工作負載的深入瞭解和針對性的硬件/軟件優化。在這個競爭激烈的市場中，成功的例子主要是谷歌。谷歌之所以成功，是因為他們比其他任何人都更好地理解自己的工作負載。谷歌在十多年前發明了 “Transformer” 模型，並且他們的第五代 TPU（張量處理單元）硅片針對這種模型進行了優化。由於 Transformer 模型現在非常重要，谷歌的 TPU 在市場上非常成功，且這種成功難以被其他公司複製。

此外，大摩還提到了兩大潛在有利因素：

1）2024 年上半年，英偉達、計劃舉辦 B100 GPU 的發佈會。這個新產品的推出預計會展示英偉達的競爭力，並且可能會導致其產品的平均售價上升。

2）2024 年第二季度，英偉達將開始銷售配備了 141GB HBM3e 內存的 H200 GPU。這款新 GPU 預計將再次確立英偉達在大型語言模型推理領域的領先地位。