×
img

浙商证券:AI服务器行业报告:大模型算力需求驱动AI服务器行业高景气

发布者:wx****6a
2023-04-07
7 MB 28 页
互联网 浙商证券
文件列表:
浙商证券:AI服务器行业报告:大模型算力需求驱动AI服务器行业高景气.pdf
下载文档
1、算力场景向AI升级,CPU+GPU是核心服务器随着场景需求经历通用服务器-云服务器-边缘服务器-AI服务器四种模式,AI服务器采用GPU增强其并行计算能力;AI服务器按应用场景可分为训练和推理,训练对芯片算力的要求更高,根据IDC,随着大模型的应用,2025年推理算力需求占比有望提升至60.8%;AI服务器按芯片类型可分为CPU+GPU、CPU+FPGA、CPU+ASIC等组合形式,CPU+GPU是目前国内的主要选择(占比91.9%);AI服务器的成本主要来自CPU、GPU等芯片,占比25%-70%不等,对于训练型服务器其80%以上的成本来源于CPU和GPU。2、ChatGPT等大模型训练和推理需求激增驱动AI服务器市场高速增长据ARKInvest预测,ChatGPT-4参数量最高达15000亿个,由于参数量与算力需求间存在正比关系,所以可推算GPT-4算力需求最高达到31271PFlop/s-day。随着国内外厂商加速布局千亿级参数量的大模型,训练需求有望进一步增长,叠加大模型落地应用带动推理需求高速增长,共同驱动算力革命并助推AI服务器市场及出货量高速增长。3、国产芯片推理接近

加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>