文件列表:
上海证券:通信事件点评:英伟达发布H200,面向生成式AI推理场景持续升级.pdf |
下载文档 |
资源简介
>
主要观点事件描述近日,NVIDIA宣布推出NVIDIAHGXH200。NVIDIAHGXH200基于NVIDIAHopper架构,配备NVIDIAH200TensorCoreGPU和HBM3e显存,能够更好地支持处理生成式AI和高性能计算场景下的工作负载。NVIDIAH200所配备的141GBHBM3e显存拥有4.8TB/s的带宽,与NVIDIAH100相比,显存增加76%,带宽增加43%。以Llama2-70B模型为例,NVIDIAH200的推理速度是NVIDIAH100的1.9倍,大幅提高了对生成式AI推理场景的支持能力。分析和判断我们认为:(1)HVIDIAHGXH200的推出,从侧面印证了生成式AI推理场景对算力的巨大需求。(2)H200在推理场景下性能的提升,有望降低下游科技企业在生成式AI应用落地时的算力使用成本,加速生成式AI应用的技术落地。(3)在生成式AI研发中处于领先地位的科技企业,有望在产品落地后,更好地将技术转化壁垒和现金流,从而持续投入人工智能基础设施建设,有利于与这些科技企业存在较强上下游绑定关系的算力供应链企业实现持续增长。投资建议建议关注:中际旭创:中高
加载中...
已阅读到文档的结尾了