
Looking to break NVIDIA's monopoly! Startup company TensorWave's cloud service only uses AMD chips

TensorWave 的首席執行官兼聯合創始人 Darrick Horton 認為該公司競爭優勢明顯,因為 AMD MI300X 的價格比當前最受歡迎的英偉達 GPU H100 便宜得多,而且 MI300X 在運行(但不是訓練)AI 模型方面優於 H100。該公司估值已達 1 億美元,預計年底經常性收入將達到 2500 萬美元,增長 8 倍。
AI 熱潮方興未艾,讓英偉達成為當仁不讓的霸主,該公司的 GPU 已成為各種規模的 AI 公司首選的芯片。然而,媒體報道,成立於去年年底的公司 TensorWave 正在逆流而上,推出了一個僅提供英偉達競爭對手 AMD 硬件的雲服務,處理 AI 工作負載。
TensorWave 的首席執行官兼聯合創始人 Darrick Horton 在接受 TechCrunch 採訪時表示:
“我們意識到這是一個不健康的壟斷現象,這是一個導致最終用户無法獲得計算資源並抑制 AI 領域創新的現象。出於我們希望 AI 大眾化的願望,我們決定提供一個可行的替代方案,恢復競爭和選擇權。”
落户賭城
根據報道,Horton 與 TensorWave 的其他兩位聯合創始人 Jeff Tatarchuk 和 Piotr Tomasik 是通過 Pickleball 運動認識的,隨後就 GPU 算力的壟斷導致供應限制的問題達成共識,最終促使 TensorWave。
TensorWave 總部位於拉斯維加斯,對於一家雲基礎設施初創公司來説,這是一個不尋常的選擇。但 Horton 表示,團隊看中了這個機會。“我們認為拉斯維加斯有潛力成為一個蓬勃發展的技術和初創公司生態系統。”
這個預測並非完全脱離現實。根據 Dealroom.co 的數據,拉斯維加斯擁有 600 多家初創公司,僱傭了 11,000 多名員工,並在 2022 年吸引了超過 40 億美元的投資。
與許多美國主要城市相比,拉斯維加斯的能源成本和運營費用也較低。此外,Tomasik 和 Tatarchuk 與當地的風險投資社區有着緊密的聯繫。
Tomasik 之前曾是總部位於拉斯維加斯的種子基金 1864 Fund 的普通合夥人,現在與非營利加速器 StartUp Vegas 和 Vegas Tech Ventures 合作。Tatarchuk 是孵化器機構 Fruition Lab 的天使投資人。
這些聯繫幫助 TensorWave 成為了市場上首批提供 AMD Instinct MI300X 實例處理 AI 工作負載的雲服務之一。TensorWave 提供按小時租用 GPU 計算資源的服務,並要求至少六個月的合同期限。
以 AMD 為中心
媒體報道,目前低成本、按需服務的 GPU 雲市場正在蓬勃發展。而 Horton 表示,TensorWave 的競爭優勢明顯。
首先是價格。Horton 指出,AMD MI300X 的價格比當前最受歡迎的英偉達 GPU H100 便宜得多,這使得 TensorWave 能夠將節省的成本傳遞給客户。他沒有透露 TensorWave 的具體實例定價,但如果想要打敗 H100,定價必須低於 2.50 美元/小時。
其次是性能。Horton 引用了基準測試數據,顯示 MI300X 在運行(但不是訓練)AI 模型方面優於 H100,尤其是在像 Meta 的 Llama 2 這樣的文本生成模型上。
除了 TensorWave,其他押注 AMD AI 芯片的公司包括初創公司 Lamini 和 Nscale,以及更大型、根基更深厚的雲供應商,如 Azure 和 Oracle。
分析認為,當前對 AMD 芯片使用者的有利因素是英偉達 GPU 持續短缺,以及英偉達即將推出的 Blackwell 芯片的延遲。不過,隨着關鍵芯片組件(特別是內存)的製造加速,短缺可能很快會緩解。這將使英偉達能夠加大 H200 的出貨量,這款新品的性能得到了顯著提升。
對於依賴 AMD 硬件的新興雲服務商來説,另一個存在的挑戰是如何跨越英偉達圍繞 AI 芯片構建的競爭壁壘。業界普遍認為,英偉達的開發軟件更為成熟且更易於使用,並且已被廣泛部署。甚至 AMD 首席執行官蘇姿豐也承認,採用 AMD 芯片 “需要付出努力”。
更遠的前景來看,隨着超大規模公司增加對定製硬件的投資,專注於價格競爭的挑戰可能會日益艱難。例如,Google 提供其 TPU;微軟最近推出了兩個定製芯片 Azure Maia 和 Azure Cobalt;而亞馬遜 AWS 擁有 Trainium、Inferentia 和 Graviton。
但 Horton 表示:
“隨着開發人員尋求能夠有效處理其 AI 工作負載的替代方案,尤其是在內存和性能需求增加的情況下,加上生產問題導致的延誤,AMD 將在未來更長時間內保持領先地位,並在 AI 時代的計算大眾化中發揮關鍵作用。”
預計年底經常性收入增長 8 倍 估值已達 1 億美元
TensorWave 目前已有 300 萬美元的年經常性收入。Horton 表示,一旦 TensorWave 將其 MI300X 的容量提高到 20000 個,預計到經常性收入年底將達到 2500 萬美元,增長 8 倍。
假設每個 GPU 的成本為 15000 美元,那麼 20000 個 MI300X 將意味着一筆 3 億美元的投資,然而 Horton 聲稱,TensorWave 的資金消耗率 “完全在可持續水平內”。TensorWave 此前曾表示,將使用其 GPU 作為大規模債務融資的抵押品,這是其他數據中心運營商採用的一種方法,Horton 表示這仍然是該公司計劃的一部分。
他繼續説道:
“這反映了我們強勁的財務健康狀況。我們通過在最需要的地方提供價值,戰略性地定位自己,以應對潛在的逆風。”
不過,當被問道 TensorWave 目前有多少客户時,Horton 由於 “保密原因” 拒絕回答,但強調了 TensorWave 已公開宣佈的與網絡骨幹供應商 Edgecore Networks 和由前 Neuralink 工程師創立的 AI 推理初創公司 MK1 的合作伙伴關係。
Horton 表示,該公司正在迅速擴大算力,以滿足日益增長的需求。他還補充道,TensorWave 計劃在今年年底開始使用的 AMD 可能在四季度推出的下一代 MI325X GPU。
投資者對 TensorWave 的增長軌跡表示滿意。Nexus VP 在週三透露,該機構領投了一輪 4300 萬美元的融資,參與者還包括 Maverick Capital、StartupNV、Translink Capital 和 AMD Ventures。這是 TensorWave 的第一輪融資,融資後該公司的估值達到 1 億美元。
