国金证券：计算机行业研究：彭博金融GPT发布，行业大模型落地加速

事件简评Bloomberg于2023年3月30日发布金融行业大模型BloombergGPT，该模型采用与ChatGPT相同的主流架构Only-DecoderTransformer，基于海量金融行业数据和通用领域开源数据集训练，模型参数规模为500亿。BloombergGPT的训练数据总量约为5,300亿词，其中金融行业数据约为2,720亿词，约占所有训练数据的54.2%，来源包括网络、新闻、公司公告与财务报表以及彭博自己的新闻库。出于数据安全和模型滥用风险考虑，BloombergGPT尚未以任何形式对外开放访问。目前，以ChatGPT和百度文心等为代表的生成式AI在通用任务上取得了不亚于人类的表现。然而，这类AI在行业任务上的表现相对一般，主要受限于以下原因：第一，行业知识在训练数据中的比例相对较低，模型中的行业知识相对匮乏，导致行业任务表现较差；第二，行业任务与通用任务的思维逻辑存在显著差异，金融行业语境下对某些信息的解读与通用语境下存在显著不同，例如“某公司裁员5000人”在通用语境下常被理解为负面消息，但在金融行业语境下有时可以被理解为推升公司业绩的积极信号。基于海量金融行业数据