Qualcomm and Meta Platforms plan to run large AI models on mobile phones.

智通財經 APP 獲悉，高通 (QCOM.US) 和 Meta Platforms(META.US) 宣佈，從 2024 年開始，Meta 的新大型語言模型 Llama 2 將在採用高通芯片的手機和個人電腦上運行。

到目前為止，大型語言模型主要在採用英偉達 (NVDA.US) 圖形處理器 (GPU) 的大型服務器羣中運行，因為該技術對計算能力和數據的需求巨大，這提振了英偉達的股價，該股今年以來上漲了逾 220%。

但高通等為手機和個人電腦製造尖端處理器的公司在很大程度上錯過了人工智能的繁榮。到目前為止，高通股價在 2023 年上漲了約 10%，落後於納斯達克指數 36% 的漲幅。

週二的聲明表明，高通希望將其處理器定位為非常適合人工智能，但要 “在邊緣” 或設備上運行，而不是 “在雲端”。如果大型語言模型可以在手機上運行，而不是在大型數據中心運行，這可能會降低運行人工智能模型的巨大成本，並可能帶來更好、更快的語音助手和其他應用程序。

高通認為，在高通設備上提供 Meta 的開源 Llama 2 模型將使智能虛擬助手等應用成為可能。Meta 的 Llama 2 可以做許多與 ChatGPT 相同的事情，但它可以被打包成一個更小的程序，這使得它可以在手機上運行。

高通的芯片包括一個張量處理單元 (TPU)，非常適合人工智能模型所需的各種計算。然而，與配備尖端 GPU 的數據中心相比，移動設備上可用的處理能力相形見絀。

Meta 的 Llama 之所以引人注目，是因為 Meta 公佈了它的 “權重”，這是一組有助於管理特定人工智能模型如何工作的數字。這樣做將允許研究人員以及企業在自己的計算機上使用人工智能模型，而無需徵得許可或付費。其他著名的人工智能模型，如 OpenAI 的 GPT-4 或谷歌的 Bard，都是閉源的，它們的權重也是嚴格保密的。

高通過去曾與 Meta 密切合作，特別是在 Quest 虛擬現實設備的芯片方面。高通還展示了一些在其芯片上緩慢運行的人工智能模型，比如開源圖像生成器 Stable Diffusion。