文件列表:
华金证券:半导体:AI创新浪潮不止,刺激相关芯片需求持续增长.pdf |
下载文档 |
资源简介
>
投资要点AMD发布其AI芯片InstinctMI300系列产品,并推出面向AIPC的Ryzen8040系列。此外,谷歌宣布推出其认为规模最大、功能最强大的AI模型Gemini。AI芯片存力竞争愈发焦灼,24年AI服务器出货量或增至百万台当地时间12月6日,AMD发布其AI芯片InstinctMI300系列产品,包括MI300A和MI300X芯片。MI300X搭载了8个HBM3堆栈,内存容量高达192GB,比H200高36%,更是H100的2.4倍;峰值带宽高达5.3TB/s,比H100高58%,比H200高10%。得益于存力的大幅提升,MI300X较H100在大模型运行推理能力方面表现更为出色。在与H100的一对一比较中,MI300X在Llama2-70B和FlashAttention2两类LLM上的性能均提高了20%。在与H100的8对8服务器比较中,MI300X在Llama2-70B和Bloom176B两类LLM运行推理时的吞吐量分别提高了40%和60%。封装方面,AMD通过引入3D混合键合和2.5D的硅中介层,实现了“3.5D封装”技术AMD预计2023年全球AI加速器市场规模约
加载中...
已阅读到文档的结尾了