文件列表:
国信证券:AI终端行业专题:从大模型到智能体,端侧算力助力AI规模化应用.pdf |
下载文档 |
资源简介
>
从大模型到智能体,AIAgent(智能体)爆发元年,点燃新一轮创新周期。目前的AI工具大多都是bot(机器人),包括以ChatGPT为代表的LLM(大语言模型),都仅是一个应用程序,只有当用户输入特定内容时才会被动反馈。而AI助手的下一程,将关注AIAgent的构建,以LLM或多模态模型为核心,具备跨应用、主动、自我升级等特征,成为用户的全能助手。例如联想推出AITwin,AITwin将建立本地知识库,预测用户的任务和提供自主解决方案,让设备成为用户的数字延伸。而OpenAI推出的GPTs,构建了通向Agent的桥梁,未来研发将加速。我们认为,随着AIAgent的成熟,AI应用的规模化落地势在必行,有望推动新一轮的消费电子创新周期。AI大模型规模化扩张带来推理算力需求激增,布署端侧算力缓解成本压力。2023年5月,高通发布《混合AI是AI的未来》,混合AI指终端和云端协同工作,在适当的场景和时间下分配AI计算的工作负载,以更高效利用资源。原因在于生成式AI模型大多拥有数十亿级参数,对计算基础设施要求极高,且AI推理的规模将远高于AI训练,推理成本将随着日活用户数量及其使用频率的增加而增
加载中...
本文档仅能预览20页