文件列表:
民生证券:电子行业点评:384架构引领,910C蓄势待发.pdf |
下载文档 |
资源简介
>
事件:据韶关发布4月26日消息,全球首个商用智算昇腾超节点在中国电信粤港澳大湾区(韶关)算力集群正式上线。本次昇腾超节点的商用落地,标志着国产AI算力在实际应用场景中的渗透步伐进一步加快,国产算力迎来破局元年。
CloudMatrix384商用上线,国产算力破局元年。从发布历程来看,CloudMatrix384于今年4月10日在华为云生态大会上正式发布,在面向AI时代海量算力需求背景下,华为云实现从服务器级到矩阵级的资源供给模式转变。目前,CloudMatrix384超节点已在芜湖地区规模部署,并在实际应用中展现出强劲性能。在70亿参数规模的DeepSeek-R1模型训练中,相较于H100集群,迭代速度提升1.8倍,高横向带宽架构有效突破了算例性能与集群线性扩展的瓶颈。同时硅基流动也在同日宣布,基于CloudMatrix384超节点、曻腾云服务及高性能推理框架SiliconLLM,完成了DeepSeek-R1模型的推理上线测试效果显示,在用户保持20TPS水平下,系统推理吞吐量达到1920tokens/s有效比肩H100。同时,经过主流测试集验证及大规模线上盲测,在昇腾算力部署Deep
加载中...
已阅读到文档的结尾了