阿里云&中国通信院：2024年大模型安全研究报告

2012 年，杰弗里·辛顿（Geoffrey Hinton）课题组提出的卷积深度神经网络 AlexNet 在计算机视觉权威比赛 ImageNet 中以压倒性优势获得第一名，拉开了全球深度神经网络研究浪潮。2020 年，OpenAI 推出了 GPT- 3，标志着以“标注数据监督学习”和服务特定任务为特点的小规模深度神经网络（即小模型），正式向以“大 规模数据集无监督预训练 + 有监督微调”和服务多任务的大规模预训练深度神经网络（即大模型）转变。大模 型以其庞大的无标注训练数据、巨大的模型参数、智能“涌现”现象和多任务处理能力，被业界认为是实现通 用智能的可行路径。整体看，从小模型向大模型的演进经历了如下三个时期