华福证券：电子行业周报：AI芯片推陈出新，HBM或迎成长机遇

Nvidia发布新一代GPU芯片H200，HBM3e助力性能升级。11月13日，NVIDIA宣布推出新一代的GPUH200，本次新品发布的最大亮点在于，H200为全球首款搭载HBM3e内存的GPU。在全球最快内存HBM3e的助力下，H200在内存容量、带宽和性能等方面迎来了全面升级。一方面，H200能以每秒4.8TB的速度提供141GB内存，内存较A100和H100几乎翻倍，带宽较A100和H100分别增加2.4/1.4倍；另一方面，高内存带宽也使H200能够实现更快的数据传输，对于模拟、人工智能等内存密集型的高性能计算场景，H200可实现较CPU快110倍的生成结果时间，为处理生成AI和HPC工作负载的海量数据提供强大支持。AI高算力需求推动下，HBM将大放异彩。AI大模型的兴起催生了海量算力需求，而数据处理量和传输速率大幅提升使AI服务器对芯片内存容量和传输带宽提出了更高的要求。HBM在此背景下应运而生。与传统DDR存储器不同，HBM使用TSV和微凸块垂直堆叠多个DRAM芯片，并通过封装基板内的硅中介层与GPU直接相连，从而具备高带宽、高容量、低延时与低功耗等优势，相同功耗下其带宽