中国银河：计算机行业行业动态报告：Sora对算力需求影响几何？

核心观点： Sora算力需求将呈指数级增长，带动算力基础设施需求。北京时间2月16日凌晨，OpenAI发布了首个文生视频模型Sora，可以用文字指令生成长达60秒的高清流畅视频，在生成视频长度、连贯性、多镜头切换方面具备显著优势。本文基于大语言模型推导算力需求方法，对Sora单次训练算力需求进行推演，据相关研究推测，Sora参数规模估算在30B（待确认），如果按此参数测算，我们推演出Sora训练单次算力需求或可达到8.4×10^23Flops，相当于GPT-3175B的2.7倍。我们认为，目前Sora还在初级阶段，仍然存在如能以准确模拟物理运动规律及场景、混淆左右方向、混淆空间细节等，但伴随Sora不断迭代调优，训练数据集规模增大，未来算力需求将呈现指数级爆发式增长，持续看好上游算力基础设施投资机会。 Sora基于DiT架构，采用Transformer替换U-Net。Sora实际上是一种基于DiT（DiffusionTransformer，扩散变换器）的模型搭建。，同时采用了Diffusion与Transformer，是一种用于扩散模型的新架构。Sora受到大语言模型的启发，用Tran