×
img

金元证券:电子行业:AI应用侧深度渗透,驱动国产先进封装技术寻求突破

发布者:wx****51
2025-02-28
3 MB 36 页
半导体
文件列表:
金元证券:电子行业:AI应用侧深度渗透,驱动国产先进封装技术寻求突破.pdf
下载文档
DeepSeek在算法层面实现三大突破——通过低秩键值压缩(MLA)将注意力计算内存占用降低80%,动态稀疏MoE架构使每个Token仅激活5.5%参数,以及GRPO强化学习框架驱动模型自主进化多步推理能力。千亿参数模型在通用任务上达到与密集模型相当的精度,同时降低37%推理延迟。模型的高效运行仍依赖硬件层面的三重能力支撑:高并行计算、高存储带宽、超低延迟互连。 效率提升≠需求下降:本质上,算法优化并非削弱算力产业价值,而是通过重构需求结构打开更大市场空间——从集中式训练向分布式推理延展,从通用计算向场景专用架构升级,最终形成万亿级算力市场的多级增长引擎。"降本→普及→增量"的螺旋上升效应将推动Post-training微调算力激增、云端推理并发量指数增长、边缘侧长尾需求爆发带来总算力需求。 模型参数量、训练数据持续扩充,高性能算力芯需求仍高:单纯倚仗传统芯片设计与制造通过缩小FET尺寸去提高芯片性能的方式效率降低,且规模化边际减弱。更重要的是,对于不同场景化需求不同,高带宽,低延迟,高能效比有更高要求,系统级线宽/线距瓶颈限制了高速数据在芯片之间、芯片与外部存储器之间高效传输,严重制

加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>