×
img

财通证券:计算机行业投资策略周报:LLaMA 2开源,加速应用百花齐放

发布者:wx****5d
2023-07-24
1 MB 12 页
互联网 财通证券
文件列表:
财通证券:计算机行业投资策略周报:LLaMA 2开源,加速应用百花齐放.pdf
下载文档
核心观点宏观环境扰动,大模型开源生态加速发展:本周计算机指数下跌5.24%,跑输沪深300指数3.26pct,在31个申万一级行业中涨幅排名31,年初至今计算机以19.07%的涨幅排名第3。本周宏观经济预期扰动加剧,板块持续调整。我们此前看好板块行情的持续性的三个出发点未曾改变:1)基本面提供确定性、2)流动性带来可能性、3)政策力度决定β强度。在此基础上,本周Meta开源的LLaMa2模型性能已接近GPT-3.5,同时开放了详细技术细节,全方位支持开源生态发展。大模型的“安卓时刻”或已来临。Meta发布开源且可商用的LLaMa2:2023年7月19日,Meta发布了LLaMa2模型系列,该模型系列包含在2万亿个token上预训练的基座模型LLaMa2,和100万条人类标记数据上精调而得的对话模型LLaMA2-Chat,上述两组模型都包含了70亿、130亿和700亿三种参数变体。与初代LLaMa1相比,LLaMa2的训练数据量增加了40%,并进行了更强大的数据清理;此外,LLaMa2采用了分组查询注意力机制(QGA),上下文长度达到了4096个字符的水平(4k),是前代LLaMa1的2

加载中...

已阅读到文档的结尾了

下载文档

网友评论>