浙商证券：AI安全系列：以子之矛，攻子之盾-从deepfakes深度伪造技术看AI安全

1、Deepfakes技术始于2014年，随着AI大模型能力的提升关注度持续增高Deepfakes定义可分为广义和狭义两个层次，其中广义上指利用了以生成对抗网络技术（GAN）为主体的深度学习技术制造的看起来很真实但实际上属于虚假的图片或视频。随着AI大模型的能力不断突破，deepfakes受到的关注度持续增高。2、生成式AI模型是Deepfakes的技术基础，而人脸伪造技术是deepfakes的一个重要分支生成式AI是深度学习的一个分支，根据生成内容的类别，生成式AI模型可进一步被分为生成式语言模型和生成式图片模型。而随着多模态模型的应用逐步深入，生成式AI模型也开始向多模态方向发展。目前主流生成式AI模型包括VAE、GAN、diffusion模型等，stablediffusion模型的发布再次使得生成式AI的输出质量大幅提升。人脸伪造技术是deepfakes的一个重要分支，可被进一步划分为有目标可视身份伪造和无目标可视身份伪造，其中有目标可视身份伪造技术已经在俄乌冲突中有所应用。3、生成式AI技术的迭代增加伪造图片的真实度，同时增大AIGC识别难度考虑到：1）数据层面，可供训练的数据