文件列表:
华金证券:电子电新传媒汽车:WAIC盛况空前,关注AI算力与应用.pdf |
下载文档 |
资源简介
>
投资要点
国产算力芯片陆续发布,性能进一步提升。华为在WAIC展会公开展示CloudMatrix384AI超节点,将384颗昇腾NPU和192鲲鹏CPU通过全新高速网络MatrixLink对等互连形成了一个整体AI“服务器”。算力提升至超节点300pFLOPS,单卡的推理吞吐量提升至每秒2300token。支持混合专家MoE大模型推理,实现1卡1专家,支持384个专家并行推理,极大提升效率。超节点还可以支持“一卡一算力任务”,灵活分配资源,提升任务并行处理,减少等待,将算力有效使用率提升50%以上。
在应用上,华为云CloudMatrix384超节点助力新浪“智慧小浪”推理交付效率提升50%以上;支撑硅基流动每天为600万用户提供高效推理服务;助力中科院自研模型训练框架,快速构建AI4S科研大模型;推动面壁智能“小钢炮”模型推理业务性能大幅提升;为360“超级搜索”纳米AI搜索提供性能领先、贴合需求的AI算力;助力讯飞大模型实现极致的推理性能等。
数据中心电力消耗持续攀升,算电协同备受关注。数据中心能源管理面临供电稳定性、成本控制和碳排放管理三重挑战。第一,供电稳定性列为首要痛点,主要
加载中...
已阅读到文档的结尾了