6GANA：2024年6G网络面向大模型的分布式学习白皮书

6G愿景是实现智能普惠，支持将AI服务随时、随地的提供给每个人，这将驱动6G网络成为一个分布式AI计算平台。而到6G时代，端边云都将部署不同尺寸的大模型，大模型无处不在，端边云节点之间交互的主要内容将从数据转为模型，由此，本文提出一种新的面向大模型的、去中心化的、原生支持无线网络边缘异构动态环境的MFD（Model Follow Data）分布式学习模式，旨在让模型在靠近数据的地方进行训练和推理，避免大量数据传输带来的传输能耗和隐私问题，同时可以充分利用6G网络的分布式AI 算力。针对联邦学习存在依赖可信中心节点、通信开销大和异构支持性差等问题，MFD将神经网络模型构建为通信数据包，使得模型在网络中能够像数据包一样传输，并且可以自由缩放，实现异构模型间高效的知识分享和轻量化自组织的学习流程。可以预测，MFD将成为6G网络的原生分布式学习模式，支撑AGI服务的普及。