"The most powerful computing chip" is here, MI300X is faster than H100, but how much faster? Will Microsoft be the winner?

Meta、OpenAI 和微軟在本週三舉行的 AMD 投資者大會上，表示將使用 AMD 最新的人工智能芯片 Instinct MI300X。此舉表明，科技界正在積極尋求昂貴的英偉達 GPU 的替代品。

MI300X 被業界寄予厚望，畢竟 “天下苦英偉達久矣”，後者的旗艦 GPU 不僅價格高昂，而且供貨數量也相當有限。如果 MI300X 能夠得到大規模採用，有望降低開發人工智能模型的成本，對英偉達形成競爭壓力。

比英偉達的 GPU 快多少？

AMD 表示，MI300X 基於全新架構，性能有着顯著的提升。它的最大特點是擁有 192GB 的尖端高性能內存，即 HBM3，這種內存傳輸數據的速度更快，可以容納更大的人工智能模型。

蘇姿豐直接將 MI300X 及其構建的系統與英偉達的（上代）旗艦 GPU H100 進行了比較。

就基礎規格而言，MI300X 的浮點運算速度比 H100 高 30%，內存帶寬比 H100 高 60%，內存容量更是 H100 的兩倍以上。

當然，MI300X 對標的更多是英偉達最新的 GPU H200，雖然規格上同樣領先，但 MI300X 對 H200 的優勢就沒那麼大了，內存帶寬僅比後者多出個位數，容量比後者大近 40%。

蘇姿豐認為：

"這種性能可以直接轉化為更好的用户體驗，當你向模型提問時，你希望它能更快地回答，尤其是當回答變得越來越複雜時。"

蘇姿豐：AMD 不需要擊敗英偉達 第二名也可以過得很好

AMD 面臨的主要問題是，那些一直依賴英偉達的公司是否會投入時間和金錢來增加另一家 GPU 供應商。

蘇姿豐也承認，這些公司確實需要 “付出努力” 來轉向 AMD 芯片。

AMD 週三告訴投資者和合作夥伴，公司已經改進了對標英偉達 CUDA 的軟件套件 ROCm。CUDA 套件一直是 AI 開發者目前青睞英偉達的主要原因之一。

價格也很重要。AMD 週三沒有透露 MI300X 的定價，但肯定會比英偉達的旗艦芯片更便宜，後者的單價在 4 萬美元左右。蘇姿豐表示，AMD 的芯片必須比英偉達的購買和運營成本更低，才能説服客户購買。

AMD 還稱，已經和一些最需要 GPU 的大公司簽下了 MI300X 的訂單。

Meta 計劃把 MI300XGPU 用於人工智能推理任務，微軟首席技術官 Kevin Scott 也表示，公司會把 MI300X 部署在其雲計算服務 Azure 中，此外，甲骨文的雲計算服務也會使用 MI300X。OpenAI 也會在一款叫做 Triton 的軟件產品中使用 AMD GPU.

根據研究公司 Omidia 的最新報告，Meta、微軟、甲骨文都是 2023 年英偉達 H100 GPU 的重要買家。

AMD 沒有給出 MI300X 的銷量預測，僅預計 2024 年數據中心 GPU 總收入約為 20 億美元。而英偉達僅最近一個季度的數據中心收入就超過了 140 億美元，不過算上了 GPU 之外的其他芯片。

展望未來，AMD 認為，人工智能 GPU 的市場規模將攀升至 4000 億美元，比之前的預測翻了一番。由此可見，人們對高端人工智能芯片的期望有多高、垂涎有多深。

蘇姿豐還對媒體坦然地説，AMD 不需要擊敗英偉達，也能在市場上取得好成績。言下之意就是，第二名也可以活得很好。

她在談到 AI 芯片市場時表示：

“我認為可以明確地説，英偉達現在肯定是市場的領導者，我們相信，到 2027 年，這個市場的規模可能會達到 4000 多億美元。我們可以從中分得一杯羹。”