ODCC开放数据中心委员会：2025年AI超节点内存池化技术白皮书

当前，生成式人工智能浪潮正深刻改变着全球的计算格局。在 大模型训练与推理需求持续高涨的背景下，以 AI 超节点为代表的新 型算力形态正迅速崛起，成为支撑智能时代的重要基础设施。随着 模型规模不断扩大、数据复杂性持续上升，AI 工作负载对存储与内 存系统提出了前所未有的挑战。尤其在追求“以存换算”的方向上， 传统分散、静态的内存架构已难以支撑 AI 大规模并行计算对效率、 弹性和资源协同的严苛要求。 在这一背景下，AI 超节点内存池化技术应运而生，成为打破“内 存墙”的关键路径。通过对 HBM、DDR、SSD 等多层级存储资源的 统一编址、集中调度与智能分层管理，内存池化技术不仅有效解决 了异构资源分布不均、利用率低下等问题，更为大模型训练、大模 型推理等典型场景提供了灵活、高效、可扩展的内存解决方案。在 Scale-Up 与 Scale-Out 双重网络技术的支撑下，AI 系统得以实现跨 节点内存共享，进而打通 GPU 与 CPU 之间的资源壁垒，最大化释 放算力潜能。