文件列表:
国元证券:生成式人工智能行业专题研究:海外大模型篇:生成式AI加速创新,行业迎历史性机遇.pdf |
下载文档 |
资源简介
>
第一部分:生成式AI快速发展,技术奇点有望到来
第二部分:技术创新百花齐放,海外巨头引领创新
第三部分:风险提示
1.1发展历程:算法模型持续迭代,AI行业快速发展
1基础的生成算法模型是驱动AI的关键
2014年,伊恩·古德费洛(lanGoodfellow)提出的生成对抗网络(GenerativeAdversarialNetwork,GAN)成为早期最为著名的生成模型。GAN使用合作的零和博弈框架来学习,被广泛用于生成图像、视频、语音和三维物体模型。随后,Transformer、基于流的生成模型(Flow-basedmodels)、扩散模型(DiffusionModel)等深度学习的生成算法相继涌现。
Transformer模型是一种采用自注意力机制的深度学习模型,这一机制可按输入数据各部分的重要性分配权重,可用于自然语言处理(NLP)、计算机视觉(CV)领域应用,后来出现的BERT、GPT-3、laMDA等预训练模型都是基于Transformer模型建立的。
通过梳理全球主流大语言模型(LLM)的发展脉络,2018年以来的GPT系列、LLaMA系列、BERT系列、Claude系列等
加载中...
本文档仅能预览20页