×
img

中国电信:智算产业发展研究报告(2024)

发布者:wx****65
2024-11-12
4 MB 65 页
电信
文件列表:
中国电信:智算产业发展研究报告(2024).pdf
下载文档

AI 推动算力需求超线性发展,智能算力需求井喷。根据 EPOCH AI 数据,全球人工智能经历从传统模型进入深度学习阶段, 模型所需算力规模年增长 1.5 倍突破至 4.1 倍/年,算力规模实现 7 个数量级的增长(2010-至今) [1],其主要在于: 大参数模型、高质量数据集和大算力(智算)成为 AI 大模型发 展的关键要素,Scaling 法则带动大模型不断突破新的瓶颈。 Transformer 架构成为人工智能的事实标准,模型架构趋于稳定,数 据规模、质量双提升,GPU 单卡性能、集群有效算力的持续迭代升级, 为大模型的性能、规模爆发奠定了基础,加剧模型训练算力需求指数 级增长,目前全球千亿级参数模型所需算力至少为 10^23 数量级,所 需算力至少为万卡级规模以上(参考 A100),持续训练周期为周级 时长。


加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>

开通智库会员享超值特权
专享文档
免费下载
免广告
更多特权
立即开通

发布机构

更多>>