×
img

国信证券:通信行业周报2024年第52周:小米正搭建GPU万卡集群,展望英伟达下一代AI服务器

发布者:wx****95
2024-12-29
2 MB 17 页
电信 国信证券
文件列表:
国信证券:通信行业周报2024年第52周:小米正搭建GPU万卡集群,展望英伟达下一代AI服务器.pdf
下载文档
核心观点 行业要闻追踪:小米布局GPU万卡集群,国内云厂持续加大AI投入。12月26日,界面新闻报道,小米正在着手搭建自己的GPU万卡集群,将对AI大模型大力投入。小米拥有强实力的团队,且在成立时已有6500张GPU资源。MiLM-6B作为小米开发的大模型,目前在C-Eval总榜单中排名第10。同时阿里巴巴、腾讯、百度三大云厂今年Q3季度资本开支362.3亿元(同比+117%,环比+58%),显著增长,字节跳动今年数据中心投入全球仅次于北美四大云厂,排名第五。在国内云厂加大AI数据中心建设、进行军备竞赛的背景下,国产算力设备商持续受益。 展望英伟达下一代AI服务器GB300。英伟达初定了GB300订单的配置情况,其重要合作伙伴鸿海与广达已进入GB300研发设计阶段,该产品有望在2025年3月的年度GTC大会上发布。主要变化包括(1)B300芯片,其功率上升到1400W,单卡相比上一代1.5倍的FP4性能提升,每个GPU的HBM容量从192GB提升到288GB。(2)引入新一代ConnectX-8SuperNIC网络接口卡,网口速率有望提升至1.6T。(3)GB300功耗达到140KW,

加载中...

已阅读到文档的结尾了

下载文档

网友评论>