文件列表:
国联证券:通信行业专题研究:MarvellAIday,算力需求推动光互联加速迭代.pdf |
下载文档 |
资源简介
>
MarvellAI相关业务有望快速增长
Marvell于近日举办AIday投资者交流会,介绍了公司在AI方面的战略布局。FY24年MarvellAI相关业务实现营收5.5亿美元,占整体收入为10%;预计FY25年和FY26年,AI相关业务营收超15亿美元和25亿美元。
AI推动光互联加速迭代,光互联需求弹性更大
2023年是AI发展的元年,光互联带宽速率从4年翻倍变成2年翻倍。
GPT3.0在1000XPU集群上训练,光模块与XPU比值为2:1;GPT4基于2.5万XPU训练,二者的比值为3:1;模型变大所需的交换机层数增加,二者的比值提升至5:1甚至10:1。AI训练和推理均推动光互联的需求显著增长。AI训练时需要较大的集群,但大的集群数量比较少。AI推理时所需的集群规模大小各异,取决于应用的场景,并需要大量部署以实现商业化。
Marvell将数据中心内网络连接分为三种
计算单元互联:用于服务器内部XPU的高速连接,传输距离较短,通常基于铜线进行连接,传输协议包括NVLink、InfinityFabric和PCIe。后端网络:连接数据中心AI服务器,采用IB或以太网协议的光互联。前端
加载中...
已阅读到文档的结尾了