文件列表:
开源证券:计算机行业点评报告:Llama3性能升级,AI应用和算力厂商持续受益.pdf |
下载文档 |
资源简介
>
事件:Meta发布最新AI模型Llama3
4月18日,Meta发布最新AI模型Llama3。Llama3目前已开放8B和70B两个小参数版本,未来将继续推出更多产品,最大版本参数超400B。
Llama3性能实现重大飞跃,未来将发布400B版本,有望对标GPT-4
(1)Llama3目前开放8B和70B两个版本,性能相比Llama2实现重大飞跃。Llama3通过使用更高质量的训练数据和指令微调,Llama3相比Llama2实现重大飞跃,在MMLU、GPQA、HumanEval、GSM-8K等多项基准上超过谷歌Gemma7B和Mistral7BInstruct。
(2)Llama3训练数据量和训练效率大幅提升。Llama3由超15Ttokens的公开数据训练而来,训练数据是Llama2的7倍,代码数据是Llama2的4倍。为支持多语言应用,Llama3超5%的预训练数据由30多种语言的高质量非英语数据组成,Llama3的训练效率也较Llama2提升3倍。
(3)Meta已将Llama3集成在MetaAI中,未来将发布MetaAI智能眼镜。Llama3已集成在AI助手MetaAI中,支持
加载中...
已阅读到文档的结尾了