在 HUAWEI CONNECT 2026 上海大会上，华为正式发布了 OceanStor M900 语境内存存储器。该产品专为超大规模数据中心及 Ascend SuperPoD 基础设施设计，旨在解决人工智能推理过程中日益严峻的 KV 缓存（关键值缓存）存储瓶颈。
随着 AI 应用从简单交互转向长对话、复杂推理及自主代理模式，上下文窗口的扩展和多轮交互导致 KV 缓存数据量急剧增加。传统方案中，GPU 和系统内存虽访问速度快但容量有限且成本高昂；常规存储虽容量大，但其经由 CPU 介导的数据路径引入较高延迟，造成加速器资源闲置。OceanStor M900 通过引入专用上下文内存存储层，将 KV 缓存扩展至加速器和系统内存之外，构建起共享的多层存储池。
技术层面，该设备依托华为 UnifiedBus 高速互连技术，实现了集群内 KV 缓存资源的共享，宣称支持高达 64PB 的容量。其核心创新在于 ASU 磁盘，该组件集成了 CPU、网络及存储控制器功能，并结合本地 KV 语义，允许 NPU 以单次跳跃方式直接访问存储数据，从而规避了常规的协议转换与 CPU 转发环节。
性能数据显示，这一架构将访问延迟降低至 60 微秒。据华为介绍，该技术有望使代币吞吐量翻倍，并将典型 AI 编码工作负载中的首代币时间减半。在耐用性与成本方面，OceanStor M900 采用 KV 感知自适应存储技术，依据缓存生命周期管理数据放置，支持每天最多 24 次驱动器写入，约为传统 SSD 的 16 倍，意在长期降低更换与维护成本。
此次发布体现了华为对 AI 基础设施的整体思路：不再将存储视为独立的支持组件，而是将内存、网络和计算定位为相互连接的推理性能要素。在代理式 AI 工作负载增长的背景下，高效保留、共享和检索上下文的能力正变得与加速器的原始算力同等重要。
