Apple uses Google, TPU trains AI models, Nvidia's dominant position faces risks

智通財經
2024.07.29 22:23
portai
I'm PortAI, I can summarize articles.

蘋果使用谷歌 TPU 訓練 AI 模型,可能威脅到英偉達的市場霸主地位。蘋果在報告中詳細介紹了他們選擇谷歌的處理器進行訓練的情況。目前,英偉達的昂貴 GPU 在高端 AI 訓練芯片市場佔據主導地位,但由於供不應求,其他科技公司也在競相購買。蘋果租用雲服務商的服務器進行計算,提高了訓練效率和可擴展性。這一舉動可能會引發科技公司在 AI 基礎設施上過度投資的商業風險。

智通財經 APP 獲悉,週一,蘋果 (AAPL.US) 表示,其人工智能系統 Apple Intelligence 所依賴的人工智能模型是通過谷歌 (GOOG.US,GOOGL.US) 設計的處理器進行預訓練的,這表明大型科技公司在培訓尖端 AI 時正在尋找英偉達 (NVDA.US) 的替代品。

蘋果在剛剛發佈的技術報告中詳細介紹了選擇谷歌自主開發的 Tensor 處理單元 (TPU) 進行訓練的情況。此外,蘋果還在週一為部分設備發佈了 Apple Intelligence 的預覽版。

英偉達昂貴的圖形處理單元 (GPU) 在高端 AI 訓練芯片市場佔據主導地位,過去幾年需求量如此之高,以至於很難按所需數量採購。OpenAI、微軟 (MSFT.US) 和 Anthropic 都在使用英偉達的 GPU 來訓練他們的模型,而其他科技公司,包括谷歌、Meta(META.US)、甲骨文 (ORCL.US) 和特斯拉 (TSLA.US),也在爭相購買這些 GPU 來建立他們的 AI 系統和產品。

Meta 首席執行官扎克伯格和 Alphabet 首席執行官桑皮查伊上週都表示,他們的公司以及行業中的其他公司可能在 AI 基礎設施上過度投資,但也承認不這樣做的商業風險太高。

蘋果在其 47 頁的報告中沒有提到谷歌或英偉達,但指出其 Apple Foundation Model(AFM) 和 AFM 服務器是在 “雲 TPU 集羣” 上進行訓練的。這意味着蘋果租用了雲服務提供商的服務器來進行計算。蘋果在報告中表示:“這種系統使我們能夠高效且可擴展地訓練 AFM 模型,包括 AFM 設備端、AFM 服務器和更大的模型。”

相比其同行在 OpenAI 於 2022 年末推出 ChatGPT 後迅速擁抱生成式 AI,蘋果披露其 AI 計劃的時間較晚。週一,蘋果推出了 Apple Intelligence。該系統包括多個新功能,如 Siri 的全新外觀、更好的自然語言處理和文本字段中的 AI 生成摘要。

在接下來的一年裏,蘋果計劃推出基於生成式 AI 的功能,包括圖像生成、表情符號生成以及能夠訪問用户個人信息並在應用中執行操作的加強版 Siri。

在週一的報告中,蘋果表示,設備端 AFM 是在一塊由 2048 個 TPU v5p 芯片組成的 “切片” 上進行訓練的。這是最先進的 TPU,於去年 12 月首次推出。AFM 服務器是在 8192 個 TPU v4 芯片上進行訓練的,這些芯片通過數據中心網絡被配置為八個切片協同工作。

根據谷歌網站,最新的 TPU 在預訂三年時,每小時的使用成本不到 2 美元。谷歌於 2015 年首次推出 TPU 用於內部工作負載,並於 2017 年向公眾開放。它們現在是為人工智能設計的最成熟的定製芯片之一。

儘管如此,谷歌仍是英偉達的主要客户之一。它在訓練 AI 系統時使用了英偉達的 GPU 和自家的 TPU,同時也在其雲上出售英偉達技術的使用權限。

蘋果此前表示,推理過程 (即使用預訓練的 AI 模型生成內容或做出預測) 將部分在其數據中心的自有芯片上進行。

這是蘋果關於其 AI 系統的第二篇技術論文,此前在六月發佈了一份更為概括的版本。蘋果當時表示,在開發 AI 模型時使用了 TPU。

蘋果計劃於週四交易結束後公佈季度業績。