文件列表:
万联证券:计算机行业跟踪报告:谷歌再更新Gemini大模型,立足MoE架构性能更加卓越.pdf |
下载文档 |
资源简介
>
行业核心观点:
谷歌推出Gemini1.5Pro版本,性能水平与Gemini1.0Ultra类似。2024年2月15日,谷歌再次更新其Gemini大模型至Gemini1.5代,并推出Gemini1.5Pro版本。Gemini1.5Pro的性能水平与谷歌至今6343为止最大的模型Gemini1.0Ultra类似。与Gemini1.0代对比,Gemini1.5Pro的性能大大超过了Gemini1.0Pro,在绝大多数(27/31)的基准测试(benchmarks)中表现更好;而在与Gemini1.0Ultra的对比中,Gemini1.5Pro在超过一半的基准测试上表现更好,尤其是在多数文本基准测试(10/13)和部分视觉基准测试(6/13)中都表现优于Gemini1.0Ultra。
投资要点:
建立在MoE架构上,能更高效的训练和服务。Gemini1.5大模型建立在对稀疏(sparse)混合专家(mixture-of-expert,MoE)架构及Transformer架构领先的研究上,其训练和服务更为高效。传统的Transformer是一个大型神经网络,而MoE模型则被划分为更小的“专家”
加载中...
已阅读到文档的结尾了