ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

百度百舸AI计算平台4.0发布,模型训练效率提升至99.5%?

时间:2024-09-25 10:13:56来源:ITBEAR编辑:瑞雪

在2024百度云智大会上,百度智能云宣布了其百舸AI异构计算平台的重大升级,正式推出4.0版本。这一升级版本紧密围绕大模型全旅程的算力需求,致力于为企业提供“多、快、稳、省”的AI基础设施服务,全面覆盖集群创建、开发实验、模型训练及模型推理四大核心环节。

据ITBEAR了解,针对当前算力资源短缺的普遍问题,百舸4.0版本重点强化了“多芯混训”能力,成功实现了在万卡规模集群上高达95%的多芯混合训练效能,达到了业界领先水平。此外,在集群部署环节,升级后的百舸显著提升了部署效率,能够将万卡集群的运行准备时间从以往的数周缩短至最快1小时,极大缩短了业务上线周期。

针对大模型训练过程中频繁出现的故障问题,百舸4.0版本全面升级了故障检测手段和自动容错机制,有效降低了故障发生频次,并大幅减少了集群故障处置时间,确保在万卡集群上实现超过99.5%的有效训练时长。在模型推理方面,鉴于长文本推理逐渐成为主流趋势,百舸4.0版本对推理速度和成本进行了全面优化,使得长文本推理效率提升了1倍以上。

此次百度智能云百舸AI异构计算平台的全面升级,无疑将为企业提供更高效、更稳定的AI基础设施服务,助力企业在AI领域的快速发展。#百度智能云# #百舸AI异构计算平台# #大模型训练# #模型推理# #算力资源#

更多热门内容
蔚来乐道L60汽车,9月28日全国交付,你准备好了吗?
IT之家9月26日消息,蔚来汽车旗下子品牌乐道L60汽车已于本月上市,定位为家庭智能电动中型SUV。乐道官方今日宣布,该车将于9月28日开启全国交付。据介绍,蔚来乐道L60汽车长宽高分别为4828×1930×…

2024-09-26

蔚来股价飙升6.55%,6.02美元/股,市场反响如何?
9月26日,蔚来(NIO)开盘上涨6.55%,截至21:30,报6.02美元/股,成交6864.51万美元。 财务数据显示,截至2024年06月30日,蔚来收入总额273.55亿人民币,同比增长40.65%;…

2024-09-26

蔚来股价上涨4.87%,每股报5.925美元,发生了什么?
9月26日,蔚来(NIO)盘中上涨4.87%,截至21:55,报5.925美元/股,成交2.27亿美元。 财务数据显示,截至2024年06月30日,蔚来收入总额273.55亿人民币,同比增长40.65%;归母…

2024-09-26

理想汽车股价飙升9.8%,26.1美元新高,发生了什么?
9月26日,理想汽车(LI)盘中上涨9.8%,截至21:50,报26.1美元/股,成交1.58亿美元。 财务数据显示,截至2024年06月30日,理想汽车收入总额573.12亿人民币,同比增长20.81%;归…

2024-09-26