百度 CTO 王海峯:文心 3.5 模型效果提升 50%,新增知識點增強技術

新浪財經
2023.07.06 14:30
portai
I'm PortAI, I can summarize articles.

新浪科技訊 7 月 6 日晚間消息,2023 世界人工智能大會期間,百度首席技術官王海峯發言指出,百度文心大模型現已升級為文心大模型 3.5,已實現基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等,模型效果提升 50%,訓練速度提升 2 倍,推理速度提升 30 倍。據王海峯介紹,在基礎模型訓練上,文心大模型 3.

新浪科技訊 7 月 6 日晚間消息,2023 世界人工智能大會期間,百度首席技術官王海峯發言指出,百度文心大模型現已升級為文心大模型 3.5,已實現基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等,模型效果提升 50%,訓練速度提升 2 倍,推理速度提升 30 倍。

據王海峯介紹,在基礎模型訓練上,文心大模型 3.5 採用了飛槳自適應混合並行訓練技術及混合精度計算策略,並採用多種策略優化數據源及數據分佈,加快了模型迭代速度,顯著提升了模型效果和安全性,同時還創新了多類型多階段有監督精調、多層次多粒度獎勵模型、多損失函數混合優化策略、雙飛輪結合的模型優化等技術,進一步提升模型效果及場景適配能力。

在知識增強和檢索增強基礎上,文心大模型 3.5 提出了 “知識點增強技術”,對用户輸入的查詢、問題等進行分析理解,為大模型注入更具體、詳細、專業的知識點,顯著提升大模型對世界知識的掌握和運用。此外,文心大模型 3.5 還新增了插件機制,目前文心一言已對外發布官方插件百度搜索和 ChatFile。(文猛)

海量資訊、精準解讀,盡在新浪財經 APP

責任編輯:劉萬里 SF014