×
img

东吴证券:电子行业深度报告:端侧AI:模型创新快速迭代,看好苹果引领AI硬件起飞

发布者:wx****e7
2025-03-02
3 MB 21 页
半导体 东吴证券
文件列表:
东吴证券:电子行业深度报告:端侧AI:模型创新快速迭代,看好苹果引领AI硬件起飞.pdf
下载文档
投资要点 端侧AI革新人机交互,模型快速升级,巨头引领行业发展:AI自主化能力沿着“以指令为中心“到“以意图为中心”持续提升。LLM从各个层面改造终端,其中Agent对开放式问题必不可少,背后是大模型带来的理解复杂输入、进行规划推理/合理使用工具的能力。据头豹,端侧AI市场规模2023-2028年预计CAGR高达58%,2028年超过1.9万亿元。从具体小模型性能表现上看,参数量对模型性能影响巨大,但受限于硬件,小模型的技术创新更加积极以提升有限参数量下的性能表现,其中量化/剪枝/蒸馏是最主要的模型压缩方式,各家小模型因数据集/压缩精度/量化混合方式等差异预计带来小模型的百花齐放。Agent架构中,基础模型本身要引入新的输入类型,成为VLA模型,同时还增加了个性化和内存操作要求,均需要额外的优化。 硬件变革核心在内存,苹果发力内存创新应对内存瓶颈:相比于云端模型,硬件是端侧模型的重要制约,需要升级以补齐短板。对比各家硬件,我们认为苹果在内存/电池/散热上提升空间巨大。我们认为内存及其操作带来的能耗是当前最短板,预计成为硬件核心变革方向,如半精度的7B模型仅参数加载占用DRAM就超过14

加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>