Target NVIDIA! These eight startups are challenging the "GPU dominator"
創始人和投資者都認為，生成式 AI 將使計算領域產生翻天覆地的變化，這足以使他們從英偉達身上分一杯羹。
英偉達二季度業績震撼全場，數據中心營收在三個月內翻番至百億美元以上，使淨利潤同比增長四倍至 67.4 億美元，牢牢把住 AI 芯片的霸主地位。
而在英偉達的身後，有許多年輕的初創公司正在奮力奔跑，有的不斷推出號稱超過英偉達 GPU 的產品，有的則瞄準了英偉達的 CUDA 編程平台。
據 The Information，2017 年至少有十幾家初創公司試圖挑戰英偉達在 AI 芯片領域的地位，但經歷了市場的一輪洗牌之後，該倒閉的倒閉，該換血的換血。
當時比較受關注的兩家公司，KnuEdge 和 Reduced Energy Microsystems 雙雙倒閉。Wave Computing 在 2020 年申請破產，次年以新名稱 MIPS 東山再起。據科技網站 The Register 報道，另一家 AI 芯片初創公司 Mythic 的前工程副總裁在領英上寫道，該公司已於去年耗盡現金。今年早些時候，Mythic 宣佈任命新首席執行官，並獲得了 1300 萬美元融資。
在現存的早期 AI 芯片初創企業中，Cerebras 生產的大規模 AI 芯片整合了英偉達 GPU 的許多處理能力，而 SambaNova Systems 似乎是早期最有能力挑戰英偉達的公司。上一輪融資熱潮中，這兩家公司和 Graphcore 一起以數十億美元的估值進行了幾輪大型融資。
這輪市場大清洗告訴後來者，初創企業正面臨着高昂的成本和競爭風險。
以下是最新向英偉達發起挑戰的八家初創企業：
D-Matrix 和 Rain Neuromorphics 聲稱，它們開發的芯片和軟件，與英偉達產品相比，更有助於降低訓練和運行機器學習模型的成本。
Tiny Corp 和 Modular 正在開發 CUDA 的替代品，CUDA 是英偉達開發的一種編程語言，可提高應用程序開發的速度，但它只能與英偉達的 GPU 配合使用。
Qyber、Modular 和 MatX 三家芯片初創公司均由谷歌前工程師創立，而獲得了投資者的信賴。
Modular
成立時間：2022 年
創始人： Chris Lattner（首席執行官）、Tim Davis（首席產品官）
投資人： GV、Greylock Partners、Factory HQ、SV Angel
股權融資：3000 萬美元
Modular 正在開發一個用於訓練和運行機器學習模型的開發平台和編程語言。它允許用户從一系列 AI 工具中進行選擇，包括最初由谷歌開發的開源軟件 TensorFlow 和最初由 Meta Platforms 開發的開源軟件 PyTorch。然後，模塊化用户可以在英偉達、英特爾等服務器芯片上運行模型。
構建和運行 AI 應用程序需要大量的計算能力，開發人員稱，在試圖控制計算成本時，很難在不同類型的芯片之間切換使用他們的軟件。Modular 產品於 5 月份推出了有限預覽版，旨在幫助工程師更輕鬆地在不同類型的硬件上運行模型，以便平衡性能和成本。
Modular 尚未披露其定價結構，並且產生的收入較少，但創始人的工作背景讓投資者感到鼓舞。首席執行官 Lattner 之前在蘋果公司領導了 Swift 編程語言的開發，後來與 Modular 的聯合創始人兼首席產品官 Tim Davis 一起在谷歌工作，兩人共同負責監督該公司的 AI 產品開發。據 The Information 本月早些時候報道，Modular 最近正在洽談一項以 6 億美元估值融資的項目。
MatX
成立時間：2022 年
創始人：Reiner Pope（首席執行官）、Mike Gunter（首席技術官）
投資方：Outset Capital、SV Angel、Homebrew
股權融資：未知
MatX 正在開發用於文本應用的大語言模型（LLM）的專用芯片，目的是設計出比英偉達的 GPU 等硬件運行得更快、更省錢的芯片。
這家初創公司由前谷歌員工創立。MatX 的首席執行官 Reiner Pope 曾參與構建谷歌的 Pathways 語言模型。MatX 的 CTO Mike Gunter 曾參與谷歌的張量處理單元（TPU）的工作，這是谷歌專門設立的 AI 硬件部門，與英偉達 GPU 構成競爭。
MatX 官網宣稱，它獲得了幾家風投公司的支持，但尚未宣佈產品或融資額。根據網站介紹，這家總部位於加利福尼亞山景市的公司還獲得了網絡安全巨頭 Palo Alto Networks 首席商務官 Amit Singh 以及大語言模型研究人員的支持。目前還不清楚 MatX 是否已經獲得客户，但該公司表示它獲得了 “著名大語言模型公司的有力支持”。
Qyber
成立時間：2022 年
創始人：Guillaume Verdon、Tom Hubregtsen
投資方：霍夫資本、朱利安資本
股權融資：未知
據一位直接知情人士透露，Qyber 正在開發一款專門為運行 LLM 而設計的芯片。
這家初創公司由 Alphabet 神秘項目 “登月工廠” 部門的前研究人員創立，專注於量子計算。該公司官網對其計劃諱莫如深，只寫道：“下一個計算時代尚未消亡，它還活着。” 敬請期待。
據 PitchBook 稱，去年 11 月，Qyber 從紐約風險投資公司 Hof Capital 和舊金山種子期基金 Julian Capital 籌集了資金。Information 援引一位知情人士報道稱，最近，這家初創公司已與潛在投資人討論新一輪融資事宜。
Rain Neuromorphics
成立時間： 2017 年
創始人： Gordon Wilson（首席執行官）、Jack Kendall（首席技術官）、Juan Nino（首席科學顧問）
投資人：空客創投、百度創投、FoundersX Ventures、Sam Altman、Daniel Gross
股權融資： 3300 萬美元
Rain Neuromorphics 現已更名為 Rain AI，目的是解決使用傳統 GPU 訓練和運行機器學習模型的高成本問題。
一般來説，芯片在從內存和處理組件傳輸數據時會產生一定熱量，這就需要不斷冷卻 GPU，從而增加數據中心的電力成本。Rain 的芯片和軟件將內存和處理功能結合在一起，使它們能夠以更低温度、更節能的方式運行，首席執行官 Gordon Wilson 表示。
Tiny Corp
成立時間：2022 年
創始人：George Hotz
投資人：未公開
股權融資：510 萬美元
據稱，Tiny Corp 的產品可幫助開發人員加快訓練和運行機器學習模型的過程。
神奇小子、自動駕駛初創公司 Comma AI 的創始人兼前首席執行官 George Hotz 於今年 5 月宣佈成立 Tiny Corp 公司，目標是徹底改變 AI 計算領域。
當前，Hotz 正在圍繞一套名為 tinygrad 的開源深度學習工具開展業務。5 月份，Hotz 在 GitHub 上發表的一篇文章中表示，他認為 tinygrad 可以成為 Pytorch 的 “有力競爭對手”，Pytorch 是一套起源於 Meta Platforms 的深度學習工具。
不過，就目前而言，Hot 似乎更願意保持低調。他説：“我們不和兩種類型的人説話，警察和記者。”
SiMa.ai
成立時間： 2018 年
創始人： Krishna Rangasayee（首席執行官）
投資人： Fidelity、Amplify Partners、Dell Technologies Capital、VentureTech Alliance
股權融資：2 億美元
Sima.ai 正在開發為 “邊緣” 行業（飛機、無人機、汽車和醫療設備）的 AI 軟件提供支持的硬件和軟件。
Sima.ai 創建於 2018 年，創始人 Krishna Rangasayee 曾在芯片製造商 Xilinx 工作了近 20 年。他在接受 Information 採訪時表示，這些行業對支持 AI 的新硬件的需求日益增長，他希望解決這一問題。
例如，自動駕駛汽車需要即時做出決策，因此可以從本地運行 AI 軟件中受益。而在醫療保健行業，公司可能不想將敏感數據上傳到雲端，更傾向於讓數據留在設備內。
今年 6 月，Sima.ai 表示，其第一代 “邊緣” AI 芯片已開始量產，正在與製造、汽車和航空等行業的 50 多家客户合作。
Lightmatter
成立時間： 2017 年
創始人： Nicholas Harris（首席執行官）、Darius Bunandar（首席科學家）、Thomas Graham（首席執行官）
投資人：經緯創投、Spark Capital、Viking Global、SIP Global Partners
股權融資： 2.66 億美元
Lightmatter 使用激光器的光在芯片和服務器組之間傳輸數據。
這家初創公司由前麻省理工學院學生從該大學申請專利的技術中衍生出來。聯合創始人兼首席執行官 Nicholas Harris 表示，英偉達、AMD 和英特爾等傳統生產商的芯片通過電力傳輸數據電線，成本較高，相比之下，Lightmatter 的產品可幫助公司在訓練和運行機器學習模型時將數據中心能源消耗成本降低約 80%。
Harris 表示，Lightmatter 還希望讓英偉達、AMD 和英特爾等公司在其自身的芯片中授權使用其技術。
D-Matrix
成立時間：2019 年
創始人：Sid Sheth（首席執行官）、Sudeep Bhoja
投資人：微軟、SK 海力士、Playground Global、Entrada Ventures
股權融資：5100 萬美元
D-Matrix 正在開發一種專用芯片和軟件，用於運行組合處理和內存的機器學習模型，這兩者在芯片上通常是獨立的不同組件。
D-Matrix 聯合創始人兼首席執行官 Sid Sheth 表示，這種方法可以讓 D-Matrix 芯片產生更少的熱量，因此需要更少的冷卻，使其成為比主流 GPU 和 CPU 芯片更具成本效益的選擇。Sheth 説，這在許多公司希望基於 OpenAI 的 GPT-4 等大語言模型構建生成式 AI 應用程序的時代尤為重要。
Sheth 表示，D-Matrix 選擇專注於推理（運行機器學習模型），而不是訓練這些模型，因為他們認為隨着時間的推移，這些模型會變得越來越大，運行成本也越來越高。D-Matrix 已經有客户測試其芯片和軟件，並計劃在明年上半年將其投入商業使用。
