×
img

上海证券:人工智能行业跟踪报告:英伟达发布新一代GPU架构,NVLink连接技术迭代升级

发布者:wx****bb
2024-03-29
635 KB 8 页
SaaS 上海证券
文件列表:
上海证券:人工智能行业跟踪报告:英伟达发布新一代GPU架构,NVLink连接技术迭代升级.pdf
下载文档
主要观点 事件描述 2024年3月19日,英伟达正式发布Blackwell架构的GPUB200、计算平台HGXB200以及新一代NVLink5.0连接技术。同时,英伟达基于B200和GraceCPU推出了超级芯片GB200,以及由72张GB200组成的DGXGB200NVL72超级计算机。 值得关注的是,新一代NVLink连接技术支持单块Blackwell架构的GPU实现1.8TB/s的传输带宽。根据SemiAnalysis的测算,鉴于DGXGB200NVL72拥有72个OSFP端口,每个端口对应于1个400G或800G光模块,随着GB200数量的增加,网络拓扑结构发生变化,最终GB200对应于800G光模块的数量关系将介于1:2.5到1:3.5之间。 分析与判断 我们认为: (1)以DGXGB200NVL72为代表的超级计算机,在内部节点间使用铜缆连接,主要是出于降低功耗的考虑,跨机柜连接短期内仍依赖于光收发器。 (2)从生成式AI模型训练需求角度看,跨机柜连接仍为未来主流技术方案,因此数通市场800G光模块需求具备可持续性。 (3)GB200在推理性能上持续优化升级,能够进一步降低

加载中...

已阅读到文档的结尾了

下载文档

网友评论>