文件列表:
国联证券:电子12月周专题:AI PC本地大模型如何解决功耗问题?.pdf |
下载文档 |
资源简介
>
AIPC产品形态逐渐清晰联想在2023年10月24日举办的“AIforAll”第九届联想创新科技大会上推出首款AIPC,联想认为AIPC能够创建个性化的本地知识库,通过模型压缩技术运行个人大模型,实现AI自然交互。联想集团董事长兼CEO杨元庆认为前期AIPC将占到市场份额的10%,未来AIPC将具备五大核心特质:个人大模型、更强的算力、更大的存储、更顺畅的自然语音交互、更可靠的安全和隐私保护。功耗或将成为AIPC时代一大痛点根据华尔街见闻的报道,OpenAI训练GPT-3耗电约为1.29GWh,AI大模型训练和推理均会产生极高的电力消耗。在部署到个人终端之后,即便本地个人大模型参数数量远低于公共大模型,但对于PC端功耗控制的要求预计仍将变得更加严格。ARM架构在低功耗方面优势显著ARM架构是一个精简指令集处理器架构家族,广泛应用在多种嵌入式系统设计中,具备低功耗、高性能、低成本等特点。由于其低功耗的显著优势,ARM架构被广泛应用于便携式消费级终端,比如智能手机、可穿戴设备、智能家居等领域。2020年6月,苹果宣布将在Mac产品引入自研ARM架构芯片;高通在2023年10月的夏威夷峰会发
加载中...
已阅读到文档的结尾了