在评估人工智能基础设施成本时，多数高管的注意力往往集中在 GPU 算力上，却容易忽视另一项关键支出：数据存储。
当模型完成响应后，产生的后端数据并未消失。来自每日数十亿次提示、图像及视频处理的数据需要被存储。然而，作为最难规划的基础设施成本之一，数据存储常在初期 AI 架构设计中遭到忽略。
推断规模扩大导致数据足迹激增
传统 AI 基础设施讨论多聚焦于训练阶段这一计算密集型过程。训练具有明确的起止点：任务开始，消耗算力，随后结束。相比之下，推断是持续运行的服务，每一次模型响应都会留下痕迹。这种差异对预算至关重要：训练项目可以按周期结算并退役，而推断没有终点，每个请求都在累积数据。
以 AI 生成视频为例，其后端开销巨大。西部数据（WD）的内部测量显示，一段返回给用户的 8 秒 720p 视频文件仅重 3.97MB，但在后端产生了超过 500MB 的相关数据，包括日志、缓存上下文、即时渲染备份及安全记录。这意味着用户可见输出文件的体积增加了约 130 倍。随着企业需求转向更长、更高分辨率的视频，单片数据的后端足迹可能攀升至数百千兆字节。
麦肯锡预测，到 2030 年，AI 推断需求将以 35% 的年复合增长率增长，远超训练需求的 22%，届时将占据数据中心总需求的 40% 以上。
一项由世界银行赞助、IDC 发布的全球白皮书调查了 763 名 IT 和业务决策者，结果显示近 95% 的受访者表示过去 12 个月内因生成式 AI 导致数据量增加，其中约 61% 的人指出增幅达到 25% 或更高。
报告中引用的一位超大规模云服务提供商高级产品经理指出：“拥有更多存储空间本质上是为了保持 GPU 忙碌状态的优化手段。”他强调，最大的挑战在于防止 GPU 闲置等待数据加载，因为数小时的 GPU 空置成本极其高昂且迅速累积。
存储策略需匹配 AI 数据生命周期
计算需求随训练周期、产品发布和硬件更新呈现波动，但保留的数据量不会随之减少。模型日志、合成输出和推断结果不断积累，迫使组织延长数据保留期限。
这改变了留存数据的性质。以往被归档且极少访问的信息，如今可能成为未来 AI 工作负载的输入源。随着数据保留量的增加以及检索复用频率的提升，存储系统不仅要应对容量增长，还需支持动态数据访问。同一份 WD-IDC 调查发现，96% 的受访者预计需要更快的档案检索速度，以支持推断或检索增强生成（RAG）技术。
针对 AI 工作负载的性能与容量双重需求，不同技术在数据生命周期中扮演不同角色。对于需要长期保留并反复访问的海量数据，硬盘提供了具备成本效益的高容量基础。
对 AI 预算的影响
对于首席财务官（CFO）或首席信息官（CIO）而言，“AI 基础设施支出”若仅涵盖计算部分则范围过窄。因缺少 GPU 导致数据加载停滞的成本，大致等同于模型停机的损失。然而，存储瓶颈往往隐藏至问题爆发时才显现，表现为运营成本上升和检索延迟，而非加速器旁的资本性支出（CapEx）条目。
以零售商利用 AI 制作产品目录视频为例，计算成本通常是已知且可预测的固定费率；而存储成本则随每一个生成的视频和处理过的索赔动态变化。
若团队将 AI 视为“计算加存储”的整体错误成本进行考量，可能在 12 到 18 个月内发现，存储相关的隐性成本已成为项目总开支的重要组成部分——而这往往发生在领导层决定是否扩展业务的关键节点。
构建经济可扩展的能力
应对挑战的首要步骤是基础设施建设。当前的存储策略倾向于为昂贵的热层（即时访问数据）设计性能，但大部分 AI 数据实际上堆积在温层和冷层。
企业需要的是经济上可扩展的容量：即针对完整 AI 数据生命周期设计的基础设施，在数据持续累积、复合增长及日益频繁复用的背景下，平衡性能、容量、功耗、可靠性及总体拥有成本（TCO）。这意味着将此前未触及的归档数据视为 RAG 和推断的活跃资产，并制定旨在提升战略价值而非单纯降低存储成本的数据保留政策。同时，需认识到存储决策涉及整个车队管理，而非单个驱动器。
此类基础设施要求存储层在个性化电力消耗、可靠性、密度和运营效率之间取得平衡，以确保系统的经济可持续性。
在审查组织的 AI 基础设施预算时，建议回答以下三个问题：
- 我们对人工智能产生内容的数据保留政策是什么？
- 我们的存储采购是基于训练时间的性能需求，还是基于实际生产数据的生命周期？
- 如果明年 AI 使用量翻倍，我们的存储成本是否会同步翻倍？
大多数组织无法自信地回答这三个问题。这一差距值得在下一个预算周期前予以缩小，而非事后补救。
