×
img

国金证券:电子行业研究:AI应用带动推理算力需求,看好ASIC行业厂商发展

发布者:wx****aa
2025-03-11
2 MB 20 页
半导体 国金证券
文件列表:
国金证券:电子行业研究:AI应用带动推理算力需求,看好ASIC行业厂商发展.pdf
下载文档
我们认为AI推理降本有望带动AI应用的爆发,ASIC作为高性价比的算力方案,有望充分受益推理算力需求增长。从chatgpt3发布以来,大语言模型的推理的成本以指数级别下降,单美元可生成的token数量持续增长,据A16zInfrastructure测算,推理成本每年降低幅度约10倍。模型推理的算法升级落地,通过包括强化学习、MOE等方法提升模型推理能力。我们认为:模型的推理成本快速降低,有望带动应用的爆发,而应用爆发将带动更多的推理算力需求,同时推理算法的迭代也带动更多算力需求。ASIC相比GPU可针对业务场景做定制开发,我们认为大量的推理算力以及降本诉求将有效带动ASIC的需求增长。目前北美云厂商积极布局ASIC,已经实现规模化生产的ASIC包括谷歌的TPU、亚马逊的Trainium与Inferentia、微软的Maia以及Meta的MTIA,其中谷歌和亚马逊的产品在2025年已经开始实现较大规模出货。我们认为其他云厂商ASIC在成熟度逐渐提升后,未来也具备较大的增长空间。Openai等厂商也在积极布局ASIC。从数量来看,TPU是目前ASIC当中最为主要的产品之一。根据Digiti

加载中...

已阅读到文档的结尾了

下载文档

网友评论>