文件列表:
东方财富证券:电子设备行业动态点评:英伟达GTC大会重磅发布H100 NVLINK芯片,产业链或将迎来爆发.pdf |
下载文档 |
资源简介
>
【事项】2023年3月21日晚间,英伟达在GTC大会上重磅发布了H100NVLINK芯片,其是专门为大语言模型(LLM)设计的GPU,采用了Transformer加速解决方案,可用于处理ChatGPT。相较于英伟达的HGXA100GPU芯片,一台搭载四对H100和双GPUNVLINK的服务器速度还要快上10倍,可以将LLM的处理成本降低一个数量级。此外,H100NVL配备94GBHBM3显存的PCIeH100GPU,采用双GPUNVLink,支持商用PCIe服务器轻松扩展。英伟达还宣布推出NVIDIAAIFoundations云服务,让客户可以定制LLM和生成式AI。根据英伟达CEO黄仁勋介绍,NVIDIAAIFoundations是一个云服务和代工厂,用于构建自定义语言模型和生成式AI。该服务包括语言模型NEMO、视觉模型PICASSO和生物学模型BIONEMO。其中NEMO是用于自然语言文本的生成式模型,可以提供80亿、430亿、5300亿参数的模型,且会定期更新额外的训练数据,可以帮助企业为客服、企业搜索、聊天机器人、市场分析等场景定制生产生成式AI模型。PICASSO则是视觉语
加载中...
已阅读到文档的结尾了