×
img

万联证券:计算机行业跟踪报告:谷歌再更新Gemini大模型,立足MoE架构性能更加卓越

发布者:wx****d6
2024-02-21
1023 KB 7 页
互联网 万联证券
文件列表:
万联证券:计算机行业跟踪报告:谷歌再更新Gemini大模型,立足MoE架构性能更加卓越.pdf
下载文档
行业核心观点: 谷歌推出Gemini1.5Pro版本,性能水平与Gemini1.0Ultra类似。2024年2月15日,谷歌再次更新其Gemini大模型至Gemini1.5代,并推出Gemini1.5Pro版本。Gemini1.5Pro的性能水平与谷歌至今6343为止最大的模型Gemini1.0Ultra类似。与Gemini1.0代对比,Gemini1.5Pro的性能大大超过了Gemini1.0Pro,在绝大多数(27/31)的基准测试(benchmarks)中表现更好;而在与Gemini1.0Ultra的对比中,Gemini1.5Pro在超过一半的基准测试上表现更好,尤其是在多数文本基准测试(10/13)和部分视觉基准测试(6/13)中都表现优于Gemini1.0Ultra。 投资要点: 建立在MoE架构上,能更高效的训练和服务。Gemini1.5大模型建立在对稀疏(sparse)混合专家(mixture-of-expert,MoE)架构及Transformer架构领先的研究上,其训练和服务更为高效。传统的Transformer是一个大型神经网络,而MoE模型则被划分为更小的“专家”

加载中...

已阅读到文档的结尾了

下载文档

网友评论>