×
img

中邮证券:电子:端侧大模型近存计算,定制化存储研究框架

发布者:wx****b3
2025-02-20
4 MB 67 页
半导体 中邮证券
文件列表:
中邮证券:电子:端侧大模型近存计算,定制化存储研究框架.pdf
下载文档
投资要点 大模型赋能端侧AI。在人工智能的飞速发展中,大型语言模型(LLMs)以其在自然语言处理(NLP)领域的革命性突破,引领着技术进步的新浪潮。自2017年Transformer架构的诞生以来,OpenAI的GPT系列到Meta的LLaMA系列等一系列模型崛起。这些模型传统上主要部署在云端服务器上,这种做法虽然保证了强大的计算力支持,却也带来了一系列挑战:网络延迟、数据安全、持续的联网要求等。这些问题在一定程度上限制了LLMs的广泛应用和用户的即时体验。正因如此,将LLMs部署在端侧设备上的探索应运而生,不仅能够提供更快的响应速度,还能在保护用户隐私的同时,实现个性化的用户体验。端侧AI市场的全球规模正以惊人的速度增长,预计从2022年的152亿美元增长到2032年的1436亿美元,这一近十倍的增长不仅反映了市场对边缘AI解决方案的迫切需求,也预示着在制造、汽车、消费品等多个行业中,端侧AI技术将发挥越来越重要的作用。 存算一体技术的成熟为端侧AI大模型的商业化落地提供了技术基础。作为一种新的计算架构,存算一体的核心是将存储与计算完全融合,存储器中叠加计算能力,以新的高效运算架构进

加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>