文件列表:
东吴证券:光模块跟踪点评之(四):英伟达发布新产品—催生算力带宽需求,为AI及传统推理提供更优选择.pdf |
下载文档 |
资源简介
>
投资要点
事件:英伟达在GTC大会上发布Blackwell芯片架构、GB200超级芯片组及GB200系列服务器等算力产品,以及第五代NVLink系统、Quantum-X800IB平台及Spectrum-X800以太网平台等互连通信产品。
英伟达新产品性能有显著提升
算力:1)GB200超级芯片组包含2张B200GPU及1张GraceCPU,GB200NVL36服务器单机柜集成了18个GB200超级芯片组,即36个B200与18个Grace,GB200NVL72由一或两个机柜内72张B200等组成;2)GB200NVL72在FP8精度下算力可达720PFLOPS,集群规模相同时(约3.3万张GPU),其在万亿级参数LLM的推理性能是H100的30倍,训练性能是4倍,能耗是其1/25。
网络:1)第五代NVLink支持单一GPU通过最高18个端口以1.8T速率传输数据,是第四代的2倍,第五代PCIe的14倍,第五代NVSwitch拥有144个NVLink端口,无阻塞交换速率达14.4TB/s;2)Quantum-X800IB平台(包含QuantumQ3400交换机和ConnectX-8网卡
加载中...
已阅读到文档的结尾了