×
img

浙商证券:端侧AI深度跟踪报告:2024·AI“下凡”

发布者:wx****17
2023-11-08
3 MB 34 页
互联网 浙商证券
文件列表:
浙商证券:端侧AI深度跟踪报告:2024·AI“下凡”.pdf
下载文档
ChatGPT带动云侧AI产业链史诗级爆发ChatGPT热潮席卷全球,云侧AI产业链史诗级爆发。ChatGPT(ChatGenerativePre-trainedTransformer)是由OpenAI于2022年12月推出的对话AI模型,一经面世便受到广泛关注。获得千亿、万亿级别参数的大语言模型需要超大规模AI服务器集群进行训练,且随着模型不断迭代,对云端算力的需求增加。2023年以来,以英伟达为代表的AI芯片、通信网络和服务器产业链相关企业股价涨幅明显。AI不止于云:端侧是模型应用不容忽视的重要场景(1)云侧AI:数据云端汇集训练,模型通用性强。从终端采集和感知到的声音、视频等数据都通过网络传输到云中心侧进行后续处理,云侧的资源高度集中,存储和计算能力强,并且具有很高的通用性;(2)端侧AI:终端设备上进行的轻型模型运用。越来越多的AI计算和推理工作负载在手机、笔记本电脑、XR头显、汽车和其他边缘终端上运行,端侧硬件具备一定的计算能力,以及低延迟、个性化、隐私安全的特征。在设备本地进行如图像/语音识别等小模型、低功耗的AI任务结合用户个人数据实现个性化AIAI数据本地化,隐私信息更

加载中...

本文档仅能预览20页

继续阅读请下载文档

网友评论>