×
img

广发证券:电子行业“AI的iPhone时刻”系列13:DGX服务器集群架构催生大量光模块光芯片需求

发布者:wx****47
2024-07-31
2 MB 26 页
消费电子 广发证券
文件列表:
广发证券:电子行业“AI的iPhone时刻”系列13:DGX服务器集群架构催生大量光模块光芯片需求.pdf
下载文档

DGX 服务器集群架构需要服务器、网卡、交换机、线缆、光模块等关键硬件。为实现 AI 大模型训练、科学计 算等高算力需求工作,需要使用数百甚至上千个 GPU 组成的计算单元作为算力基础评估、优化模型的配置和 参数。为了使这样一个庞大的计算单元能够有效发挥其效率,需要使用低延迟、高带宽的网络联接各个服务器 节点,以满足服务器/GPU 间计算、读取存储数据的互联通信需求,同时对整个集群系统进行管理。服务器集群 的网络系统包含服务器、网卡、交换机、线缆(包含光模块)等主要硬件。就网络构成来看,网卡搭载于服务 器内部,网卡直接与 CPU 相连或通过 PCIe Switch 与 GPU 相连;一层交换机通过服务器机身的端口与服务器 内的网卡相连;线缆用于实现服务器-交换机、交换机-交换机间的连接,如果信息传输以光信号的形式实现,线 缆两端均需要搭载光模块。参考从 DGX-1 到 DGX H100 的服务器迭代历程,服务器搭载网卡数量、单端口支 持最高带宽均呈现出逐代次增加趋势;相应对支持更高传输速率的交换机、更高传输速率的线缆/光模块带来了 增量需求。


加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>