Microsoft, a partner and a new opponent! Microsoft launches its first AI chip and establishes new partnerships with AMD and NVIDIA.

微軟正在人工智能（AI）領域積極地 “跑馬圈地”，締結新的合作關係，同時又將在拓展 AI 掘金的工具，要和英偉達等芯片巨頭分一杯羹。

美東時間 11 月 15 日週三，微軟在官網宣佈，與 AMD 和英偉達建立新的合作伙伴關係。AMD 將為微軟客户帶來新的 AI 和計算能力；英偉達在微軟智能雲 Azure 上為全球企業和初創公司推出生成式 AI 代工服務。

在公佈和兩家芯片巨頭新合作的同時，微軟在 Ignite 2023 技術大會上首次推出兩款定製芯片，均為微軟設計，為 Azure 服務。

其中Azure Maia 100是一款AI 加速器芯片，也是微軟的首款 AI 芯片，用於 OpenAI 模型、Bing、GitHub Copilot 和 ChatGPT 等 AI 工作負載運行雲端訓練和推理。它採用台積電的 5 納米工藝製造，有 1050 億個晶體管，比 AMD 挑戰英偉達的 AI 芯片 MI300X 的 1530 億個晶體管少約 30%。

媒體稱，Maia 100 可能和英偉達的芯片正面對決，成為英偉達芯片的替代品。

微軟主管 Azure 硬件系統和基礎設施的副總 Rani Borkar 表示，她沒有詳細瞭解 Maia 與英偉達 H100 等替代品相比的性能如何。不過她指出，Maia 芯片支持微軟首次實現亞 8 位數據類型、MX 數據類型，以便共同設計硬件和軟件。這有助於微軟支持更快的模型訓練和推理時間。

Maia 100 的問世印證了今年稍早的微軟自研 AI 芯片消息。當時媒體稱，芯片是為訓練大語言模型（LLM）等軟件而設計，同時可支持推理，能為 ChatGPT 背後的所有 AI 軟件提供動力。近幾年，微軟一直努力開發面向其服務器的定製芯片，為 Azure 雲計算服務提供支持。

另一款Azure Cobalt 100是一款基於 Arm 架構的 128 核雲原生芯片，用於處理通用的計算任務，針對通用工作負載的性能、功率和成本效益進行了優化。它是英特爾處理器的競品。

微軟同時宣佈，另一基於微軟數據中心集羣的創新產品 Azure Boost 將正式商用。該系統可將存儲和網絡進程從主機服務器轉遷移到專用硬件和軟件上，從而提高存儲和網絡速度。

微軟介紹，作為定製芯片的補充，公司正在拓展與芯片供應商的合作伙伴關係，為客户提供基礎設施選項，包括以下分別同 AMD 和英偉達的合作：

• 微軟將在 Azure 中添加 AMD MI300X 加速虛擬機（VM）。ND MI300 VM 將採用 AMD 最新的 GPU——AMD Instinct MI300X，旨在加速 AI 工作負載的處理，以實現高範圍的 AI 模型訓練和生成式推理。
• 微軟為英偉達 H100 芯片打造的全新 NC H100 v5 VM 系列開放預覽，將提高大中型 AI 訓練和生成式推理的性能、可靠性和效率。微軟還發布了ND H200 v5虛擬機系列計劃，這是一款AI 優化虛擬機，配備即將推出的英偉達 H200 芯片。

微軟主管 Azure 硬件系統和基礎設施的副總 Borkar 表示，在 Cobalt 100 上運行的虛擬機實例將於 2024 年通過微軟 Azure 雲實現商業化。她並未透露發佈 Maia 100 的時間表。

Borkar 説，微軟基於客户的反饋打造用於 AI 計算的芯片。微軟正在測試 Maia 100 如何滿足旗下搜索引擎必應的 AI 聊天機器人 Copilot、GitHub Copilot 編碼助手和 OpenAI 模型 GPT-3.5 Turbo 的需求。

在 Azure AI 方面，本次微軟 Ignite 技術大會介紹，支持 16K token 提示詞長度的 GPT-3.5 Turbo 模型將正式商用，GPT-4 Turbo 將於本月底在 Azure OpenAI 服務中公開預覽。GPT-4 Turbo 將使客户能夠擴展提示詞長度，為生成式 AI 應用帶來更多控制和效率。