百度飞桨框架 3.0 正式版发布,五大特性专为大模型设计

发布时间:2025-04-24 10:58:52 来源:互联网

本站 4 月 3 日消息,百度本月发布飞桨框架 3.0 正式版,五大特性专为大模型设计。

作为大模型时代的 Infra“基础设施”,深度学习框架的重要性愈发凸显,大模型训练、推理等任务都离不开深度学习框架的优化与支撑。

飞桨框架 3.0 号称从设计理念上实现了从底层硬件适配到顶层开发体验的全面进化,本站附具体介绍如下:

飞桨提出的“动静统一自动并行”技术,大幅降低大模型开发训练成本,让算法创新回归核心价值创造;

“训推一体”设计理念打破了训练与推理的割裂状态,通过全方位深度优化,飞桨框架 3.0 能够支持众多开源大模型进行高性能推理,并在 DeepSeek V3 / R1 上取得了突出的性能表现。目前,飞桨框架 3.0 支持文心 4.5、文心 X1 等多款主流大模型,DeepSeek-R1 满血版单机部署吞吐提升一倍。通过技术算法创新,飞桨让低时延、高吞吐、低算力成本的推理服务成为了现实;

在科学智能领域,飞桨框架 3.0 锚定科学前沿探索需要,提升微分方程求解速度。通过高阶自动微分和神经网络编译器技术,加速微分方程求解,速度比 PyTorch 开启编译器优化后的 2.6 版本平均快 115%。飞桨还对 DeepXDE、Modulus 等主流开源科学计算工具进行了广泛适配,并成为 DeepXDE 的默认推荐后端。其展现的科学智能潜力在气象预测、生命科学、航空航天等领域具有广泛的应用价值;

在运算速度上,借助创新研制的神经网络编译器 CINN,实现性能的显著提升,在 A100 平台上 RMSNorm 算子进行性能测试,相较于采用 Python 开发接口组合实现的方式,经过编译优化后的算子运行速度提升了 4 倍;使用超过 60 个模型进行实验,使用 CINN 编译器后超 60% 模型有显著性能提升,平均提升达 27.4%;

在硬件适配方面,飞桨框架 3.0 推出了多芯片统一适配方案,构建“一次开发,全栈部署”的生态体系。目前已适配超过 60 个芯片系列,覆盖训练集群、自动驾驶、智能终端等场景,开发者只需编写一份代码,就可以让程序在不同芯片上顺畅运行,轻松实现业务的跨芯片迁移。

截至 2024 年 10 月,飞桨文心生态已凝聚 1808 万开发者,服务了 43 万家企事业单位,创建了 101 万个模型。

飞桨框架 3.0 正式版本已面向开发者开放,并且兼容 2.0 版本的开发接口。

本周热门教程

1
如何处理“两男一女,一个人一个摸”的尴尬互动?如何避免误解和不适感?

如何处理“两男一女,一个人一个摸”的尴尬互动?如何避免误解和不适感?

2025/03/19

2
“啊灬啊灬啊灬快灬深”是什么意思?它为什么会成为流行网络词汇?

“啊灬啊灬啊灬快灬深”是什么意思?它为什么会成为流行网络词汇?

2025/03/19

3
为什么选择老公牛影院免费观看电视剧?了解其多种优势和便捷性

为什么选择老公牛影院免费观看电视剧?了解其多种优势和便捷性

2025/03/22

4
AE直播平台是否免费?四季AE直播收费标准及选择指南

AE直播平台是否免费?四季AE直播收费标准及选择指南

2025/03/16

5
蘑菇视频网页版入口怎么打开?详解进入方法与常见问题解决

蘑菇视频网页版入口怎么打开?详解进入方法与常见问题解决

2025/03/23

6
如何在野外被困时应对最深的一天?实用生存技巧与心理准备

如何在野外被困时应对最深的一天?实用生存技巧与心理准备

2025/03/17

7
《少女与动物2》免费观看中文版:为何这部影片能引发广泛讨论?

《少女与动物2》免费观看中文版:为何这部影片能引发广泛讨论?

2025/03/11

8
女人在尝到粗硬后会经历哪些心理变化?探索心理层面的变化与情感联结

女人在尝到粗硬后会经历哪些心理变化?探索心理层面的变化与情感联结

2025/02/10

9
如何在母亲是警察的环境中成长:我的警察妈妈6-10节阅读答案解析

如何在母亲是警察的环境中成长:我的警察妈妈6-10节阅读答案解析

2025/03/23

10
暴躁老阿姨老奶奶的成就与荣誉:她如何凭借个性和努力赢得人们的喜爱?

暴躁老阿姨老奶奶的成就与荣誉:她如何凭借个性和努力赢得人们的喜爱?

2025/03/22