×
img

中国银河:通信行业:推理算力重要性提升,光模块发展再加速

发布者:wx****98
2025-03-24
3 MB 11 页
电信 中国银河
文件列表:
中国银河:通信行业:推理算力重要性提升,光模块发展再加速.pdf
下载文档
事件:近日英伟达GPU技术大会2025(GTC2025)结束。 推理算力预计将持续增长,ScalingLaw仍将持续:会上,英伟达CEO表示,通往AGI以及具身智能机器人均需要算力,构建Omniverse与世界模型更需要源源不断的算力,至于最终人类构建一个虚拟的“平行宇宙”,英伟达认为算力需求将是过去的100倍。为了支撑该观点,黄仁勋列出云厂商采购数据,即2024年美国前四云厂总计采购130万颗Hopper架构芯片,到了2025年,这一数据增至360万颗BlackwellGPU,成倍数增长。根据Semianalysis数据,如今模型需要处理超过100万亿个token,推理模型的token数量是之前的20倍,计算量是之前的150倍。同时,英伟达CEO黄仁勋进一步指出,Blackwell的性能比Hopper提高了68倍,导致成本下降了87%。Rubin计划推动更多的性能提升一一是Hopper的900倍,成本降低99.97%,算法带来的效率提升与硬件选代带来的性能提升共振 硬件端对推理算力的侧重程度更强,软件端发布Dynamo及LlamaNemotron,英伟达AIAgent发展动能充分:我

加载中...

已阅读到文档的结尾了

下载文档

网友评论>