文件列表:
上海证券:人工智能主题周报:人工智能应用落地,算力租赁规模扩增.pdf |
下载文档 |
资源简介
>
随着GPT、Llama等生成式AI模型不断迭代,生成式AI模型的参数量和训练Token数不断增加,模型训练的计算量也随之扩增。同时,ChatGPT、Bard等生成式AI应用也成功落地,模型推理的相关需求也快速增加。根据《2022-2023全球计算力指数评估报告》的数据:全球生成式AI的计算市场规模将从2022年的195.0亿美元增长到2026年的346.6亿美元,其中生成式AI计算市场规模将从2022年的8.2亿美元增长到2026年的109.9亿美元;生成式AI计算占整体AI计算市场的比例将从4.2%增长到31.7%。根据Trendforce的数据,假设运行ChatGPT的算力消耗达到3640PFdays,则至少需要3万块A100。相比于微软、谷歌、Meta等CSP拥有自建数据中心,中小型生成式AI应用开发商的训练和推理算力需求,往往难以通过自建算力设施解决,算力租赁需求突出。因此,英伟达基于自身的硬件架构、软件生态,面向AI模型的训练、推理需求,与甲骨文合作推出DGXCloud云服务。我们认为:建议优先关注以算力、通信为代表的人工智能基础设施,以及以AI+办公为代表的创新应用赛道中,
加载中...
已阅读到文档的结尾了