大模型时代存储市场复盘 2024-2026：AI 训推爆发下的存储需求变革
大模型时代存储市场复盘 2024-2026：AI 训推爆发下的存储需求变革
一、引言：为什么大模型时代存储要"重新做一遍"
2024 年之前，云上"存储"三个字，在多数架构评审会上是垫底的话题。价格年年降、可用性年年升、容量随手扩，工程师最多在冷热分层上抠一抠账单。2024 年生成式 AI 爆发之后，这套惯性彻底崩了。
一次千亿参数模型的训练，checkpoint 可以是 TB 甚至 PB 级；一次多模态推理，KV-Cache 落盘的吞吐能把 SSD 打到满速；RAG 系统上线，向量库的存储 + 查询账单一个月就顶得上过去一年的对象存储支出。存储从"算力配套资源"被拉回到"决定 AI 系统性能与成本上限的核心基础设施"——这句话不是自媒体标题，是国信证券 2026 年 6 月《AI 推理需求重塑存储范式》研报里的原文（国信证券研报）。
数字更直接。根据 IDC 数据，全球 DRAM 营收在 2025 年突破 1500 亿美元后，2026 年市场有望增至 5607 亿美元以上，同比增长 272%；NAND 营收也有望从 2025 年的 671 亿美元增至 2026 年的 2890 亿美元，同比增长 331%（国信证券整理 IDC 数据）。这不是常规的存储周期涨价，是 AI 直接把整个存储产业链撬到了新的量级。
企业外部存储的曲线也在拐弯。据 IDC《Worldwide Quarterly Enterprise Storage Systems Tracker》，2026 年一季度全球企业外部存储市场收入达到 92 亿美元，同比增长 22.7%，其中全闪存阵列首次跨过 50% 收入占比门槛，达到 49 亿美元、同比 +32.7%；高端存储系统（ASP 高于 25 万美元）同比暴涨 60.7%，几乎全部由大规模 AI 基础设施部署驱动（IDC 官方公告）。
延续本系列 26 号国产大模型价格战、27 号 API 稳定性红黑榜的复盘风格，这一篇把镜头切到"底盘"：AI 训推爆发的这两年，云上存储究竟发生了什么？训练、推理、RAG、多模态、归档五档场景，成本账应该怎么算？以点点词元这样的多模型统一调度平台为例，Token 调度侧到底要不要自己囤存储？
二、需求侧：训推工作流的存储访问模式
要看懂这一轮存储涨价，先看懂 AI 到底怎么"用"存储。
2.1 训练 checkpoint：吞吐密集 + 冷热分层
千亿参数模型一次全量 checkpoint 可以到几百 GB 到 TB 级。训练框架通常按 step 或按 epoch 落盘，落盘的瞬间是典型的写放大：几十上百块 GPU 同时向存储层灌，吞吐动辄数十 GB/s。落盘之后又是典型的冷数据——大多数 checkpoint 只会被读一次（恢复用），甚至完全不会被读。
这就催生了对训练存储的两个矛盾要求：峰值写入必须够快，稳态存储必须够便宜。答案是"分层"：热层放高速本地 NVMe / 并行文件系统，冷层放对象存储的归档 / 深度归档层。IDC 也在 1Q26 报告里指出，“全闪存平台针对 GPU-to-storage 带宽需求的产品是增速最快的品类之一”（IDC 报告）。
2.2 KV-Cache 落盘：延迟敏感 + 长尾频繁
推理侧的存储压力，更多来自 KV-Cache。长上下文推理里，一个 128k token 的 session 光 KV-Cache 就可能占用几个 GB 显存。为了在多用户之间复用会话，系统会把不活跃的 KV-Cache 从 HBM 迁到 DRAM，再从 DRAM 溢出到本地 SSD，最极端会溢出到对象存储做长期保留。
这条链路对延迟极度敏感——用户重新发消息时，如果 KV-Cache 命中冷层，就要多花 100ms 以上把它加载回 HBM。国信证券研报里点出：“为了打破 AI 海量数据与有限显存之间的’内存墙’，企业级 SSD 加