A Key Piece for Apple's On-Device AI? iPhone to Feature 27-Billion-Parameter Large Model for the First Time

蘋果正尋求將更強大的 AI 能力留在設備端，一家由 Khosla Ventures 支持的初創公司或許提供了關鍵拼圖。

獲 Khosla Ventures 投資的初創公司 PrismML 宣稱，已成功將一個擁有 270 億參數的 AI 大模型壓縮至可在 iPhone 17 Pro 上本地運行，創下移動端 AI 模型規模的新紀錄。該公司表示，其壓縮技術不會造成性能損失，相關開源模型將於下週二正式發佈。

據知情人士透露，蘋果已與 PrismML 就如何使用其技術舉行了會談。此前據 The Information 報道，蘋果正積極尋求收購能夠幫助其在設備端運行更多 AI 功能的公司。消息人士稱，蘋果去年在嘗試將內部 AI 模型壓縮至適配 iPhone 時，曾遭遇性能大幅下滑的困境。

270 億參數全量激活，刷新移動端 AI 紀錄

PrismML 表示，其壓縮的模型為阿里巴巴開發的開源大語言模型 Qwen 3.6，參數量達 270 億。相比之下，目前主流移動端模型每次僅有數十億參數處於激活狀態。

蘋果在今年 6 月的全球開發者大會上發佈的新款設備端模型擁有 200 億參數，但採用稀疏架構，每次僅有 10 億至 40 億參數處於激活狀態。PrismML 的模型則在運行時保持全部 270 億參數同時激活，這一差異被該公司視為核心競爭優勢。

PrismML 稱，該模型能夠勝任複雜對話、推理、全自主智能體及軟件編程等任務。

數學壓縮技術源自加州理工，專利獨家授權

PrismML 是加州理工學院（Caltech）的衍生公司。其 CEO Babak Hassibi 是該校電氣工程學教授，與聯合創始人在校期間完成了支撐該技術的數學研究。Caltech 持有相關專利，並將其獨家授權給 PrismML。

該公司的核心技術在於通過一種數學方法，將 Qwen 3.6 模型的體積從約 54GB 壓縮至不足 4GB，壓縮比超過 90%，且公司聲稱性能不受影響。

PrismML 今年早些時候完成了 1625 萬美元的種子輪融資，Khosla Ventures 參與其中。Khosla Ventures 創始人 Vinod Khosla 在接受採訪時表示，他對 PrismML 感興趣，是因為該公司提供了一種"根本性的突破"。"我們在 2018 年投資 OpenAI 時重注押注了 Transformer 模型，但構建 AI 的新方式是什麼？我們的團隊始終在尋找新的路徑。"他説。

蘋果的設備端 AI 戰略與潛在收購邏輯

蘋果長期以來將設備端 AI 作為其隱私與安全承諾的核心支柱，並在很大程度上回避了微軟、亞馬遜、Meta 等科技巨頭耗資數千億美元的數據中心軍備競賽。

然而，蘋果在今年 6 月宣佈的遲來已久的 Siri 重大升級，仍依賴谷歌的 Gemini 模型，其最先進的功能需要調用運行在谷歌雲上的英偉達芯片。這一現狀與蘋果的設備端 AI 願景存在明顯落差，也使 PrismML 的技術對蘋果具有潛在的戰略價值。

Hassibi 預測，未來三年內，用户所需的絕大多數 AI 計算將在本地完成。"想象一下，也許三年後，你所需要的 95% 的智能都可以在本地獲得——在你的手機、筆記本電腦、家電上——真正需要去雲端的，可能只剩最後 5% 的高端需求，"他説，"我認為這就是人們所看到的前進方向。"

混合架構派提出挑戰

並非所有業內人士都認同純設備端 AI 的路線。初創公司 Argmax 等採用混合架構，將語音和圖像等處理任務在設備端完成，再將信息上傳至雲端進行更復雜的推理。

混合架構的支持者指出，雲端大模型目前仍在以每週更新的速度快速迭代，完全運行在設備端的 AI 模型將難以享受到最新、最先進雲端模型帶來的性能紅利。這一挑戰也是 PrismML 在商業化路徑上需要持續應對的核心問題之一。

PrismML 表示，公司計劃繼續將更大規模的模型——包括萬億參數級別的模型——壓縮至設備端運行，屆時將進入與 OpenAI GPT 及 Anthropic Claude 同台競技的領域。