ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI组网新趋势:Scale up与Scale out如何引领未来?探秘组网技术的颠覆性变革!

时间:2024-09-11 20:04:13来源:ITBEAR编辑:快讯团队

【ITBEAR】9月11日消息,随着人工智能技术的飞速发展,AI组网结构的变化趋势日益成为业界关注的焦点。近日,兴业证券发布了一份题为《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》的研究报告,深入探讨了这一问题及其对算力产业链投资机会的影响。

报告指出,在AI大模型训练领域,分布式并行训练架构已成为主流,其中张量并行对通信的要求尤为突出。随着模型规模的不断扩大,服务器内带宽需求也在迅猛增长。为满足这一需求,建立更大带宽的超节点已成为行业发展的必然趋势。

据ITBEAR了解,超节点的规模设计正由GPU厂商和云服务商共同推动。以英伟达为例,其超节点规模在不断升级,以适应日益增长的算力需求。同时,谷歌也在通过扩大超节点Pod规模来降低数据中心网络(DCN)的带宽要求。此外,UALink联盟也在积极推动超节点规模的进一步提升。

在Scale up方面,除了带宽提升外,互联密度的增加也是一个重要趋势。英伟达等厂商正在采用先进的互联技术,如NVL GB200方案和NVLINK协议,以提升机柜内部的互联带宽。目前,铜互联方式仍占主导地位,但长期来看,光互联技术有望取代铜互联,成为未来的主流互联方式。

另一方面,Scale out的发展则主要体现在集群规模的扩大上。受Scaling Laws法则的驱动,AI大模型的硬件部署正朝着更大集群的方向发展。目前,AI集群规模已进入10万卡阶段,以太网组网在AI集群中的应用也正在加速落地。

报告还提到,字节跳动和meta等科技巨头已经采用以太网技术来搭建AI集群。同时,博通等厂商也在不断升级其以太网交换芯片,以满足不断增长的市场需求。英伟达也强调了以太网方案在AI集群部署中的重要性。

此外,随着AI集群规模的扩大,交换机和光模块等配套设施的需求也在不断增加。Arista等公司针对AI需求提出了不同的交换机互联方案,通过提升交换机端口数来推动Scale out规模的进一步提升。同时,光模块的总需求也与算力需求成正比,保持向上趋势。硅光技术有望在未来逐步从可插拔硅光形式过渡到CPO形式,并在1.6T光模块阶段实现渗透率的提升。

综上所述,AI组网正朝着更大规模集群的方向发展,Scale up和Scale out两大趋势共同推动了AI算力产业链的不断进步。随着技术的不断创新和市场需求的持续增长,相关产业将迎来更多的投资机会和发展空间。

#AI组网# #Scale up# #Scale out# #算力产业链# #投资机会#

更多热门内容
从拿遍9分以上全球金奖到引领餐饮烹饪 欧丽薇兰橄榄油助力香格里拉中餐星厨挑战赛应用新风潮
近日,备受业界瞩目的“香格里拉中餐星厨挑战赛”在南京落下帷幕。本次大赛由淮扬菜非物质文化遗产传承人周晓燕大师、中国烹饪协会总厨专业委员会副主席沈巍、味Fusion创意厨房创始人钱以斌、益海嘉里金龙鱼烹饪研究院院长翟春燕、香格里拉集团餐饮助理副总裁卢志文、香

2025-06-06

君乐宝携中国国家体操队发布简醇专利菌群系列新品
5月29日,君乐宝携手中国国家体操队在北京体育馆召开“专利菌群 冠军品质——中国国家体操队指定乳制品暨简醇系列新品发布会”,世界冠军邹敬园、刘洋、张博恒、肖若腾、邱祺缘、周雅琴等体育健儿莅临现场,共同见证中国低温酸奶市占第一、0蔗糖酸奶市占第一、中国国家

2025-06-03

一位50岁女性创业者与张亮麻辣烫的十年共生
从商超经营者到餐饮连锁店主,一次勇敢的转型决定让这位50多岁的女性创业者在餐饮赛道上实现了自我实现。张素琴的十年创业历程见证了四家店铺的起起落落,从餐饮小白到行业老将,她用三条朴实无华的经营法则——本本分分做好张亮麻辣烫、把食材做新鲜不走捷径、用心服务

2025-06-03

罗格科技与北京市注册税务师协会签署战略合作协议 共同开启税务师行业数智化高质量发展新篇章
2025年5月23日,罗格科技(北京)有限公司与北京市注册税务师协会正式签署《AI智能与数智税务应用战略合作协议》。此次战略合作标志着罗格科技在赋能税务师行业数智化高质量发展方面开启行业引领新篇章,进一步彰显了罗格科技在“AI+财税”领域的专业权威度和技术创新引领

2025-05-27