ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

英伟达Groq 3 LPU登场:与GPU协同,开启AI推理新时代

时间:2026-03-17 21:29:51来源:快讯编辑:快讯

在近日举办的英伟达GTC大会上,一场关于AI计算架构的革命性变革引发全球关注。英伟达创始人黄仁勋身着标志性皮衣登台,宣布公司正式从"芯片制造商"向"AI基础设施工厂"转型,并公布了新一代Vera Rubin平台的全貌——这个包含7款芯片的"全家桶"系统,标志着AI算力竞争进入系统级博弈的新阶段。

核心突破来自名为Groq 3的语言处理单元(LPU)。这款采用500MB片上SRAM的芯片,通过150TB/s的内存带宽颠覆了传统AI加速器的设计逻辑。相较于依赖HBM的GPU架构,LPU在解码阶段的带宽优势达到7倍,特别适用于需要微秒级响应的智能体交互场景。英伟达超大规模计算副总裁Ian Buck形象比喻:"GPU像卡车运送海量货物,LPU则是摩托车在拥堵城市中灵活穿梭。"

系统级整合成为关键创新。Vera Rubin平台将Vera CPU、Rubin GPU与LPU通过NVLink-C2C技术连接,形成预填充-解码的流水线作业模式。在演示中,集成72颗Rubin GPU和36颗Vera CPU的NVL72机架,训练万亿参数模型所需的GPU数量减少75%,而推理能效比提升10倍。更引人注目的是,通过Dynamo软件框架的智能调度,AI代理间的通信速度从每秒100token跃升至1500token。

制造环节的突破同样值得关注。黄仁勋在演讲中特别感谢三星电子,确认其成为Groq 3 LPU的独家代工厂。这款采用三星4nm工艺的芯片将于2026年第三季度量产,首批256颗LPU组成的LPX机架可提供128GB片上内存和640TB/s总带宽。尽管单个LPU的内存容量有限,但通过数量堆叠与液冷散热设计,英伟达构建出全新的推理加速范式。

市场格局因此生变。传统上在训练市场占据绝对优势的英伟达,正通过LPU补齐推理领域的短板。测试数据显示,新架构在运行万亿参数模型时,每瓦特推理性能提升35倍,每百万token成本降至45美元。这种性能跃升使得OpenAI、Anthropic等头部企业成为潜在客户,预计将率先在多智能体系统中部署该技术。

技术代价与工程妥协同样明显。SRAM的高成本与大面积占用,迫使英伟达采用机架级解决方案。每个LPX机架需要640TB/s的专用互联接口,且芯片数量需求远超传统架构。Ian Buck承认:"从单位芯片的经济性看,LPU的token吞吐量成本并不占优。"但英伟达认为,在智能体交互成为主流的未来,这种设计是必要的技术储备。

这场变革也重塑了半导体供应链。三星通过承接LPU代工订单,从存储供应商升级为全面制造伙伴,与台积电在AI芯片领域形成直接竞争。而英伟达保持的CUDA生态兼容性,则确保现有客户无需重构代码即可升级系统,这种"软硬协同"的策略可能成为其巩固市场地位的关键。

更多热门内容
扎克伯格AI宣言描绘美好愿景 回避现实风险反添公众隐忧
这篇宣言被部分观察者解读为"反末日论"文章,但实质上更多是扎克伯格个人对AI将如何改变社会的乐观展望。 扎克伯格还举例说明AI将如何改善法律系统:“假设只有一个人拥有超级智能律师,他将在法庭上获得不公平优势…

2026-08-11

企业决策的智慧:快速应变、直觉引领与精准权衡的艺术
中欧国际工商学院金融与会计系教授苏锡嘉在本文中深入探讨了决策的艺术,从管理者必备的快速应变能力,到被爱因斯坦誉为“神圣天赋”的直觉运用,他分享了企业决策者在稍纵即逝的决策机会前,如何更优地做出选择。S1是我们…

2026-08-11

马斯克德州造芯片城:从卡尔达舍夫理论到星际文明的现实跳板
马斯克说,全球汽车年产能约1亿辆,未来人形机器人年产能将达10亿到100亿台,需求量是汽车的10到100倍。但有人在德州的一片农田上同时押上了自己的帝国和人类的星际梦,而这场赌局的筹码是1太瓦算力、1190…

2026-08-11

马云西北田间调研:聚焦治沙农业,探索生态与经济双赢新路径
他此次西北之行,并非单纯的旅游或商业考察,而是一次深度聚焦于西北沙漠农业发展与水资源综合利用的实地调研,简直操碎了心!此次调研可以看作是对这一庞大公益项目阶段性成果的“回头看”,以确保生态修复的科学性与可持续…

2026-08-11

高信资本曹斌:天使轮投张雪机车2000万,发展超预期回报或达60倍
曹斌在对话中介绍了投资始末,2024年天使轮投资时,张雪机车估值为1亿元,高信资本投入2000万元占股20%。 他透露,张雪机车去年收入为6.7亿元,今年预计将达到25至30亿元,目前单月交付量已突破一万台…

2026-08-11

钟睒睒再批电商引热议:传统实业与电商博弈,农夫山泉路在何方?
但电商模式的出现,直接跳过了层层分销的传统链路,打破了线下渠道的垄断格局,相当于从根本上瓦解了农夫山泉赖以生存的产业根基,这是钟睒睒无法接受、也极力抵触的核心痛点。钟睒睒抨击电商平台的低价策略,抨击直播带货…

2026-08-11