×
img

光大证券:AI行业跟踪报告第38期:DCI大势所趋,重点关注德科立

发布者:wx****ca
2024-10-31
1 MB 13 页
人工智能(AI) 光大证券
文件列表:
光大证券:AI行业跟踪报告第38期:DCI大势所趋,重点关注德科立.pdf
下载文档

AI 训练集群的高速增长叠加电力资源的分布不均将带来数据中心间互联(DCI) 广阔的市场空间。一方面,AI 模型所需的算力和连接数呈指数级上升: GPT-4 在 25K 集群上进行训练,是前一代的 25 倍,需要大约 75,000 个光互连;未来 会有 100K 的 AI 集群推出,这可能需要五层交换,因此可能需要 500,000 个光 互连;更遥远的未来,甚至可能会出现达到 100 万卡的集群,这时单一的数据 中心将由于电力紧缺的原因无法完成如此规模庞大的部署。另一方面,AI 服务 器消耗的电力比通用服务器多 10 倍,今天的 AI 训练集群大都分布是在一些富裕 国家、人口众多的国家,而发达地区电力资源紧缺,同时制冷需求、政治等因素 都将促使 AI 训练集群的地理分布将更加平衡。


加载中...

已阅读到文档的结尾了

下载文档

网友评论>

开通智库会员享超值特权
专享文档
免费下载
免广告
更多特权
立即开通

发布机构

更多>>