Sina Finance
2023.07.06 14:30
portai
I'm PortAI, I can summarize articles.

百度 CTO 王海峰:文心 3.5 模型效果提升 50%,新增知识点增强技术

新浪科技讯 7 月 6 日晚间消息,2023 世界人工智能大会期间,百度首席技术官王海峰发言指出,百度文心大模型现已升级为文心大模型 3.5,已实现基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,模型效果提升 50%,训练速度提升 2 倍,推理速度提升 30 倍。据王海峰介绍,在基础模型训练上,文心大模型 3.

新浪科技讯 7 月 6 日晚间消息,2023 世界人工智能大会期间,百度首席技术官王海峰发言指出,百度文心大模型现已升级为文心大模型 3.5,已实现基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,模型效果提升 50%,训练速度提升 2 倍,推理速度提升 30 倍。

据王海峰介绍,在基础模型训练上,文心大模型 3.5 采用了飞桨自适应混合并行训练技术及混合精度计算策略,并采用多种策略优化数据源及数据分布,加快了模型迭代速度,显著提升了模型效果和安全性,同时还创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术,进一步提升模型效果及场景适配能力。

在知识增强和检索增强基础上,文心大模型 3.5 提出了 “知识点增强技术”,对用户输入的查询、问题等进行分析理解,为大模型注入更具体、详细、专业的知识点,显著提升大模型对世界知识的掌握和运用。此外,文心大模型 3.5 还新增了插件机制,目前文心一言已对外发布官方插件百度搜索和 ChatFile。(文猛)

海量资讯、精准解读,尽在新浪财经 APP

责任编辑:刘万里 SF014