文件列表:
民生证券:中科创达(300496)-事件点评:实现高通平台搭载大模型,开启AI硬件终端趋势.pdf |
下载文档 |
资源简介
>
中科创达(300496)事件:近日,中科创达凭借其在终端、边缘计算领域的多年技术沉淀以及在大模型领域的创新探索,利用模型压缩、分布式以及张量并行技术,成功在搭载了高通8系列芯片平台的边缘设备上实现了LLaMA-2130亿参数模型的稳定运行,成为业内首家取得此突破的大模型企业。中科创达通过在高通芯片平台成功搭载大模型开启从云到端大趋势。中科创达成功在搭载了高通8系列芯片平台的边缘设备上实现了130亿参数模型的稳定运行,成为业内首家取得此突破的大模型企业。这一创举将使得端侧设备能够运行更大参数的模型,同时提高了端侧设备的推理速度,为大模型在端侧的应用奠定了坚实的基础。这一举措,也为大模型在边缘的应用打开了新的可能性。以往,大型模型主要在云端进行训练和推理,而现在,端侧也能够胜任更大参数的模型。这将为各行各业带来更多的机会和挑战,无论是语音识别、图像处理还是自然语言处理,都能够受益于这一创新。多家全球科技巨头同时布局AI重构新终端。10月25日,高通推出了新一代的骁龙8Gen3芯片和骁龙XElite芯片,两者均在性能上进行了提升从而更好地支持AI。10月4日Google发布了全新Pixel8
加载中...
已阅读到文档的结尾了