跳转到内容

AI存储集群

来自VeritasWiki 真理百科

AI 存储集群是面向人工智能训练与推理场景,由大量存储节点、高性能并行文件系统、高速网络与智能数据管理软件协同构成的海量数据存储与访问系统。其目标是支撑 AI 业务中"海量、多类型、高并发"的数据存储与访问需求,为训练和推理提供稳定、高带宽、高可靠的数据供给。开放数据中心委员会(ODCC)在 2025 年度技术热词中把"AI 存储集群"列入其中,将其技术价值概括为"高效支撑 AI 场景中海量、多类型、高并发的数据存储与访问需求,为 AI 训练和推理提供可靠的数据支撑"。

需求背景

AI 负载的数据特征与传统大数据处理有显著差别。训练阶段需要反复扫描海量样本集,数据规模从 TB 到 PB 乃至 EB 级,且要求数据加载不成为 GPU 的等待瓶颈;检查点保存会周期性写入模型参数与优化器状态,规模可达数 TB,写入窗口越短越好;推理阶段则产生大量 KV Cache、Embedding 向量、检索库与日志数据,访问模式更随机、并发更高。中国信通院指出,大模型训练与应用阶段对数据处理效率有极高要求,传统数据处理流程中数据需要在存储介质和处理器之间频繁移动,既耗时又低效;因此通过近存计算把数据预处理功能卸载到存储设备中,可减少数据搬运开销、提高处理速度。深信服在 2026 先进存力大会上提出,AI 业务推动数据量爆发增长,数据承载面临存储规模、IO 性能、数据安全与运维复杂度等多重挑战,需要兼顾海量数据存储、高性能访问与数据可靠保障。

架构与关键能力

AI 存储集群通常由高性能并行文件系统、分布式对象/块存储、高速互联网络、缓存层与数据编排软件构成。中国信通院相关研究提出,面向大模型 AI 存储的并行文件系统需具备四大能力:一是高性能,具备百 PB/s 级带宽和亿级 IOPS 支持能力,实现超万卡集群数据调度简化、供给无瓶颈;二是高可靠,通过多路径、全交换、全互联等设计,确保存储系统高可用性达到 99.9999%;三是高扩展,支持 EB 级数据量,且性能随节点数增加而线性增长;四是加速卡直通存储技术,利用基于总线 P2P 的底层传输协议机制,使数据路径无需再经过 CPU,实现加速卡 HBM 与存储设备之间一跳直达,消除 CPU 处理瓶颈,大幅提升从存储到加速卡的传输效率,在检查点保存、训练数据加载以及 KV Cache 加速等场景发挥重要作用。

其他关键技术还包括:全闪介质与高密盘框,以在有限空间内提供极高带宽(如运营商实践中的全闪存智能盘框,2U 空间提供 150GB/s 级带宽);数据预取与分层,把热数据放在高速介质、冷数据下沉到低成本存储;近存计算与存储侧算子下推,把过滤、解压、向量检索等预处理放到存储侧执行;智能缓存与 KV Cache 分层管理,缓解推理阶段的内存压力;以及硬盘亚健康管理、全局数据重构等可靠性技术,实现主动式运维而非被动故障响应。

与存算网协同的关系

AI 存储集群处在"存、算、网"三角交汇处。单纯扩充存储容量无法解决 GPU 等待数据的问题,必须与计算侧的并行策略、网络侧的传输能力协同设计。ODCC 在 2026 先进存力大会设"存算网协同"专题研讨,围绕 AI 新型负载下存、算、网深度融合的技术创新、落地实践与产业趋势开展讨论:阿里云提出 UMX 统一内存/存储扩展架构打通内存与存储边界,实现资源池化与弹性扩展;华为提出存网融合技术,包含 xPU 侧细粒度直通、多网融合与网存协同、存储侧智算算子下推,通过一体化设计优化数据传输并缩短路径;中国信通院工程师从产业全局梳理存算网一体化发展现状,剖析大模型带来的算力、存力、网络多重压力,解读概念、关键技术与接口碎片化等产业卡点,并研判发展趋势。这些讨论共同指向一个结论:AI 存储集群不是孤立的存储设备堆叠,而是智算基础设施中与算力调度、网络拓扑深度耦合的子系统。

中国信通院关于智能 IP 广域网(AI WAN)的研究进一步表明,通过精准流控与自动流级调度,存算分离架构在拉远 100 公里、400 公里条件下仍可达到 97% 以上高算效,说明高性能网络能够支撑存储与计算在地理上的分离,使 AI 存储集群可以集中化部署、跨地域服务多个算力集群。

产业实践

产业界已形成多条实践路线。运营商聚焦大模型训练推理场景打造智算平台,基于开源 Lustre 自研并行文件系统,与高性能智能存储盘框协同,构建可靠高效的大模型训练推理架构;其硬件均衡架构、全面硬盘亚健康管理、全局数据重构等技术,目标是实现专业级 AI 存储 99.9999% 高可靠。超擎数智在 2026 ODX 展会展示 KV Cache 存算分离推理存储方案及实验室验证成果,并作为 ODCC AI 存储实验室承载单位展示标准化阶段性成果,推动前沿探索转化为可复制的产业标准。ODCC 还把"SSD 健康度"(寿命预测、主动管理、数据保护)与"高密冷却"列为 2025 年度技术热词,与 AI 存储集群的可靠性和部署密度直接相关。

与相邻概念的区别

AI 存储集群与通用分布式存储的区别在于面向 AI 负载特征做了专门优化:强调与加速卡直通、检查点高带宽写入、海量小文件与小颗粒随机读、以及向量与 Embedding 数据的高效检索。与超节点的关系是:超节点侧重计算与互联的紧耦合组织,AI 存储集群侧重视数据供给,两者通过存算网协同形成完整智算系统。与 GPU 直通、KV Cache 的关系是:前者是数据到达加速卡的路径优化,后者是推理中间状态的缓存管理,二者都依赖存储集群提供容量与带宽底座。与智算原生传输的关系则是:网络协议需要适配 AI 负载的突发大流量与低时延需求,否则存储集群的高性能无法跨越网络兑现。

挑战

AI 存储集群面临的突出问题包括:接口与协议碎片化——不同厂商的文件系统、直通协议、缓存格式与运维接口不统一,跨平台迁移与互操作困难,这也是中国信通院在产业研讨中点明的卡点;扩展性瓶颈——性能随节点数线性增长在实践中受元数据服务、网络拓扑与数据分布制约;可靠性成本——99.9999% 可用性需要多副本、全互联与复杂重构机制,推高建设与运维成本;能耗与散热——全闪高密度部署带来功率密度与冷却压力;数据治理——训练数据的版权、隐私、溯源与访问权限管理日益重要;以及标准化滞后——AI 存储实验室等组织正在推动测试方法与指标统一,但成果尚需产业广泛采纳。未来方向包括统一接口标准、近存计算与算子下推的规模化、面向推理的 KV Cache 分层存储、以及纳入全国一体化算力网的存储资源调度与计量体系。

参见

  • 超节点
  • GPU直通
  • KV Cache
  • 智算原生传输
  • 算力网络
  • 分布式全闪化

参考资料

  1. 开放数据中心委员会(ODCC). ODCC 2025年度技术热词(AI存储集群). ODCC.
  2. 开放数据中心委员会(ODCC). 存算网协同专题研讨成功召开@2026先进存力大会. ODCC, 2026.
  3. 中国信通院(报告解读). 超节点存储架构:全对等全直通,支撑超十万卡算力集群. 报告解读平台.
  4. 中国信息通信研究院. 基于智能IP广域网(AI WAN)的存算分离与云边协同训推技术研究报告(2025年). 中国信通院, 2025.
  5. 超擎数智. 精彩亮相2026 ODX:以存算网协同,定义推理新范式. 超擎数智, 2026.