文件列表:
万联证券:电子行业跟踪报告:Chat with RTX推动模型本地部署,AIPC内容生态持续丰富.pdf |
下载文档 |
资源简介
>
投资要点:
英伟达推出ChatwithRTX,本地化部署为其重要特征:英伟达发布AI聊天机器人ChatwithRTX,用户可在搭载NVIDIAGeForceRTX30系列或更高版本的GPU(至少8GB显存)进行本地部署。ChatWithRTX可以将用户的资料与大语言模型建立连接,从而令大语言模型更具个性化。利用检索增强生成(RAG)、TensorRT-LLM和RTX加速,该应用具备本地文件及在线视频检索分析功能。同时,本地化部署有望解决数据隐私化的痛点,减少端侧应用对外部网络的依赖。
AIPC内容生态持续丰富,产品性能提升有望刺激换机需求:行业巨头积极推进AIPC应用布局,联想陆续推出了AINOW、AvatarMaster等AI应用助手,微软使Copilot落地端侧键盘部署并持续更新功能,同时完善订阅会员模式。继微软推出Copilot及联想推出AI助手之后,英伟达发布本地化部署的AI聊天机器人ChatwithRTX,而该应用的本地化部署具备一定配置要求。随着模型参数量不断提升,对载体的算力及存力等均提出更高要求,AI模型下沉端侧的过程亦会推动大众消费级PC产品的性能提升,亦将拉动换机需
加载中...
已阅读到文档的结尾了