×
img

民生证券:电子行业点评:谷歌推出轻量级AI模型,边缘算力升级加速

发布者:wx****b8
2023-05-12
625 KB 2 页
半导体 民生证券
文件列表:
民生证券:电子行业点评:谷歌推出轻量级AI模型,边缘算力升级加速.pdf
下载文档
事件:5月11日,谷歌召开“2023GoogleI/O“技术大会,正式发布通用大语言模型PaLM2。PaLM2作为驱动AI机器人Bard的模型的升级版,可使用Fortran等20多种编程语言,100多种口头语言进行数学、软件开发、语言翻译推理和自然语言生成。“小型化”和“离线化”模型出现,边缘侧终端和芯片迭代有望加速。PaLM2包括Gecko、Otter、Bison和Unicorn四种模型。其中,Gecko作为PaLM2最轻量的版本,可在移动设备端运行快速运行,提供每秒处理20个token的能力。此前大模型在边缘侧终端的应用主要是依靠API接口调用的方式,大模型的训练和推理仍在云端进行,对边缘侧终端及芯片形态更新没有太大需求。而4月高通、华为等厂商已实现AI模型在手机终端的轻量化部署,以及昨日谷歌重磅推出PaLM2大模型中的轻量化Gecko版本,能够提供AIGC更为定制化、时延更低,安全性、隐私性更好的应用,开拓AI模型在终端芯片推理的场景,边缘侧智能终端以及SoC有望全面升级,进入新的更新换代周期。AI赋智“端侧“应用,多领域迎来新机遇。轻量级AI模型未来将持续提升智能终端边缘算力需

加载中...

已阅读到文档的结尾了

下载文档

网友评论>