Alibaba Cloud's large-scale model "Juejin"

華爾街見聞
2024.06.03 13:37
portai
I'm PortAI, I can summarize articles.

作者 | 柴旭晨

編輯 | 周智宇

大模型玩家已然進入 “搶收時刻”,開啓尋找行業場景的落地競速賽。

5 月 24 日,阿里雲的一站式金融場景開發平台 “通義點金” 迎來升級,提供了豐富的金融場景模板及專業插件。

作為通義家族的一員,“通義點金” 最初定位偏向 C 端的 “智能投研助手”,升級後的 2.0 版本不僅豐富了大模型在金融行業的場景落地,更進一步向 B 端拓展。

對於金融模型平台的持續迭代,阿里雲所看中的,是金融行業背後誘人的想象空間。

麥肯錫指出,生成式 AI 能夠進一步拓展金融業的 “價值池”。僅以銀行業來看,將會為全行業帶來 2000 億-3400 億美元的新增價值。

事實上,在數智化浪潮的席捲之下,銀行與券商面臨着強烈數字化轉型需求。業內人士稱,“現在銀行到處找場景、信貸需求、好的資產,內部很內卷,謀求突破的慾望很強”。

阿里雲智能集團副總裁張翅向華爾街見聞透露,金融行業的客户非常積極,“明天的會議報名的人非常多會場裝不下”。阿里雲內部人士指出,金融行業貢獻的收入,佔據雲業務不小的分量。

張翅表示,這背後正需要有一個平台,影響到整個 IT 所有上下游鏈條,讓大家能在一個總的軌道方向上去做。“金融行業不可能只選一家就把算力、到模型、到工具到業務全乾成,而阿里雲想在中間發揮關鍵價值”。

拿來即用的 “通義點金” 就是阿里雲祭出的大殺器。“金融機構不再需要關注數據庫、雲的原理,只需要關注貸款、進階的流程,真正將時間花在業務應用場景的價值優化上。” 張翅直言,“自帶乾糧、自搭平台、自建工具對他們來講會非常有挑戰”。

倘若大模型在金融行業得以成功落地,阿里雲在 AI+ 公有云的模式就將迎來商業化的正循環。

因為在張翅看來,中國的軟件和 IT 發展容易割裂,過去國內 SaaS 市場也沒有成功。但隨着大模型應用業務場景的價值呈現出來,API 產生了新的 SaaS 模式,以及新的平台經濟。

不過,相比其他領域,金融行業對數據安全、隱私合規、時效性和準確性都有着極為嚴苛的要求,這注定了金融大模型的應用落地面臨着多重阻礙。阿里雲該如何面對?

以下是與阿里雲智能集團副總裁、新金融行業總經理張翅的對話實錄(經編輯):

問:“通義點金” 版本有 2.0 版本更新核心的變化是什麼?

張翅:“點金” 過去是在模型語料數據裏面做了增強,今天更多是在 AI native(金融級 AI 原生)應用這一層做了很多金融級的增強。之前金融行業的通識在模型裏,你問 “點金” 融相關的問題它就是在胡説八道,今天你能回答得相應比較專業了。

金融級 AI 原生,就是專為滿足金融行業最嚴格需求,而設計和優化的 AI 系統和應用,不僅在技術層面上高度先進,還在安全性、可靠性、可擴展性和合規性等方面達到了金融行業的高標準,讓大家在開發的時候迴歸到真正基本的業務邏輯和模式本身。

我們希望做成大模型以 API 為核心的方式,能夠做更多的開放和合作,我們希望不要在這個領域大家各自搭一套,你有好業務應用場景就可以組合進來。

問:大家都在説 2027 年大模型應用會加速落地到各個行業,對比其他行業,金融行業在整個大模型應用的接受程度是怎樣的狀態?

張翅:代碼大模型是現在金融機構落地案例最多的,因為金融行業也是開發密集型的。像這種領域接受度非常高,因為細分場景很多,包括客服、投研投顧、保險的核保核賠、內部的合規。

問:大模型金融產業的情況是屬於方興未艾還是馬上就會爆發?

張翅:我覺得馬上要爆發,大家最關鍵的挑戰是算力短缺、模型選擇困難,這兩件事很快在今年會有改善。

為什麼此時發佈 “點金”?因為商業的模型越來越成熟,算力在轉入到以推理、應用大模型為主的時候,都不會是最大的問題了。我覺得爆發就是等着有足夠多的大模型應用出來,相應的金融行業場景,就會在每個領域都出現。

問:阿里雲這次發佈的大模型,能營收層面、銷售層面,會給金融機構帶來什麼樣的價值?

張翅:大模型不是萬能的,沒法通過一個通用人工智能的方式就把金融行業的需求都解決掉。我們希望有更多的大模型應用出來積沙成塔,需要更加多場景組合後,可能才會有相應的化學反應。

金融行業的客户這麼多,但在細分領域,大模型要跟現在很多銀行原來數字化的平台、雲原生的平台、數據中台做一個融合,這樣才能更好地發揮價值。

原來做數字信貸,可能會有做相應的營銷決策,哪些產品投放什麼人羣,很難真正在恰當的時機真正知道這個人是不是有貸款或存款意願,割裂感很強。但大模型在中間,能把原來零散的內容,通過推理、理解決策能力做提升。

問:在大模型業態裏面,企業可能會遇到的挑戰有哪些?

張翅:原來很多金融機構的人喜歡自己打造自己的輪子,卻沒有真正花時間去把業務應用場景的價值優化。

我不希望行業為了大模型這個事情要買卡、要囤人、要儲備數據,花 80% 的時間在做基礎準備工作,去搭平台、搭地基、搭工程的工作。

對於金融機構而言,阿里雲的 “點金” 平台上已經有很好的形態和模板,不需要零敲碎打的調試,可以先試試是不是符合你的場景,然後再把這部分內容用私有化的方式去本地優化部署。

另一方面,對於金融機構來講如何選擇是最難的,而不是能跑起來大模型的業務應用。他們選了這個組件、那個模型、這樣的平台,發現別人做了更好的。還有很多不確定性的變化,技術迭代又非常快。

這是我們在雲廠商一層一層去屏蔽這種架構和技術複雜性的時候要做的事情。背後的選擇都是基於技術價值、市場價值。

問:金融行業因為一些合規性上的要求,可能會更傾向於私有云,現在阿里雲在開源的背後更強調的是公共雲的建設,這兩個怎麼去做更好的結合?

張翅:私有云的問題是必須要面對的,但在大模型的環境下會有一個混合架構。

大模型有訓練、開發、推理、運行這幾個狀態,訓練大家基本上很難做了,它對能源和網絡要求非常高。

我們發現很多金融機構要從底到上挖算力、調模型、做工具框架、做模型服務、開發應用,需要的人力、時間成本投入是非常大的。在算力的短缺的情況下,推薦開發、測試、驗證基於公共雲平台去做,至少開發大模型應用沒有必要重新搭一套。

在實際運行本地現在很多模型的量化能力,可能也能夠支持在一些小的算力上把推理跑起來。但金融行業很多都需要千億以上的模型,現在很多國產的 GPU 芯片要跑起來也有很多挑戰,我們也在不斷優化。

問:現在大模型廠商挺多的,各個金融科技公司都在做大模型,阿里雲的優勢是什麼?

張翅:我發現在很多金融機構先跟 OpenAI 做了場景對接優化,之後再去找私有化大模型,包括一些保險公司的核保也一樣,它會把一些脱敏的東西變成數據,灌到 OpenAI 裏面去。

與其這樣,那為什麼不用我們國產大模型和雲平台來做這件事情,我們還能做得更多,因為 OpenAI 並沒有提供真正那麼好的。它也有一些簡單的框架工具,但不完全符合金融級的要求。

我們的大模型能力是可以在我們的電商、物流、螞蟻金融裏面做很多錘鍊的。所以我們本身大模型能力,也是自身內部業務實踐能力的積累。

同時我們有人才優勢、數據優勢。最早我們追趕 OpenAI,72B 出來就已經開始能夠跟人家匹敵。因為模型訓練有非常多環節要做,不光靠機器,還要靠人。“有多少人工,就有多少智能”,需要這些科學家在模型訓練的領域不斷試錯才能實現。

問:最近大模型都在打價格戰,行業的頭部效應是不是會更集中?阿里雲作為大廠,怎麼做應用層面的差異化打法?

張翅:我們會更強調行業的應用,那個更多是吸引頭部機構的規模效益。對於我們來講,我們的差異化就是有沒有行業差異性。

未來對應商業模式來講,不光是我們自己,也包括跟我們合作的大模型提供商,他們真正去提供的時候,有一些行業能力的溢價,比如金融級的知識增強,我們已經把成本打成這樣了,他們去做設計和開發的時候,成本就更低,能夠真的影響行業市場更多高價值的部分,就能夠更好地體現出來。

問:現在像商湯、華為雲、阿里雲,很多巨頭在跟金融機構進行合作,大家這種合作競爭未來的可能性有哪些?

張翅:金融大模型目前我們都是足夠開放的,比如 Mini-max、Kimi 在我們的工具框架裏面,客户是可以選的。

算力的層面是最挑戰的,英偉達有自己的護城河和優勢,我們也在發展自己國產的芯片,但投入、兼容、適配的成本非常巨大。

選擇更多的是站在公有云的規模視角,大模型自己要去挑卡,選擇的時候要跑的速度、效率、成本最優的情況下去選擇。很難為了某一個金融機構的客户做整體的內容優化。