×
img

民生证券:光通信行业点评:光铜共进的高速连接时代即将到来

发布者:wx****85
2024-03-25
613 KB 2 页
电信 民生证券
文件列表:
民生证券:光通信行业点评:光铜共进的高速连接时代即将到来.pdf
下载文档
事件。24GTC大会上,英伟达公布其GB200芯片架构,以及以GB200为核心的NVL72全新网络架构,新架构可以提供720petaflops的训练性能和1.4exaflops的推理性能。 NVL72使用高速铜缆构建低延迟低成本传输网络。新一代GB200可加速LLM推理工作负载,与上一代H100相比,它将资源密集型应用程序的推理速度提高了30倍,并且支持27万亿参数的大模型训练和130TB的宽带传输容量。本次架构使用约5000根铜缆(共计2英里)进行交换机和GPU之间的连接。DAC(高速铜缆,速率>10GB的短距离传输)是成本相对较低的的高速互联方式,不包含电子元件,功耗低,并且延迟和插入损耗低,可以替代电子或光学连接器用于高速传输网络。在数据中心场景中,DAC无源铜缆可以用于将服务器和GPU连接到交换机,或者连接机架内的脊-超级脊交换机。此前DAC铜缆曾经在NVIDIAMellanoxLinkX以太网架构中使用,是在基于NVIDIAGPU中创建高速低延迟100G-400G传输链路的成本较低的方式。此次英伟达在最新GB200NVL72结构中使用高速铜缆进行封装和GPU、交换机之间的互联

加载中...

已阅读到文档的结尾了

下载文档

网友评论>