比利时人工智能初创公司 Corbenic AI 近日宣布，其名为 Galahad 的 beta 版本将于 2026 年 10 月 1 日进入测试阶段。该工具旨在通过将大型语言模型（LLM）的键值（KV）缓存保存至加密的本地 NVMe 驱动器，减少 GPU 对已处理文本的重读次数，从而提升推理效率。
- Galahad 将模型的 KV 缓存（即模型读取提示时建立的注意力状态）持久化存储于本地 NVMe 中，使服务器在 GPU 内存被清除或重启后无需重新计算。
- 创始人兼首席执行官 Sietse Schelpe 向 TechRadar Pro 表示，该技术不需要特殊硬件，但指出论文中提到的 14 倍加速主要归功于组件 Blaise 减少了对文本的阅读量。
- 尽管 LMCache、Nvidia Dynamo、CMX、WEKA 和 Phison 等厂商已在推进 KV 缓存存储方案，Galahad 的核心差异化在于其精确性以及在小型库中的故障关闭重复使用机制。
技术原理与市场定位
Corbenic 声称 Galahad 能够阻止 GPU 重复读取相同的文件内容。在标准服务流程中，当模型回答关于同一文档的第二个问题时，通常需要从第一个 token 开始重新计算注意力状态，这一过程称为预填充（prefill）。虽然 vLLM 和 SGLang 等引擎已在 GPU 内存中复用该状态，但在内存压力下这些状态会被驱逐，且进程重启后数据会丢失。
Galahad 的组件 Taliesin 负责将每个文本状态的块写入磁盘。Schelpe 解释称，只有当 GPU 内存被清除或服务器重新启动时，存储的副本才会发挥作用。“选择并非是在 SSD 或 RAM 之间二选一，”他补充道，“加载发生在一次，即在答案的第一个词之前。”
该方法存在两个限制：短文本不会被存储，因为重新计算的速度已经足够快；网络存储比本地 NVMe 驱动器慢得多。此外，论文设定了一条“故障关闭”规则：“没有记忆则不使用，绝不使用错误的记忆。”
根据 Schelpe 的说法，部署 Galahad 仅需 Linux 系统、Nvidia GPU 和标准 NVMe SSD，无需专用硬件。他在 H100 上的测试显示，RAM 磁盘与本地磁盘的数据传输量几乎相同，因此尝试更快的存储介质并未显著提升 Galahad 的性能。对于企业级驱动器（如 Phison 的 Pascari 系列），Schelpe 表示团队非常谨慎，尚未进行测量。
性能数据解析：14 倍加速的来源
Schelle 告诉 TechRadar Pro，从快速 SSD 加载存储状态比重读文本要快得多，这构成了所谓“14 倍加速”的基础——在 vLLM 上每问耗时 0.59 秒。然而，论文中的数据揭示了更复杂的情况。
0.59 秒的结果来自一项回忆测试，其中 100 个事实隐藏在包含 96,726 个 token 的列表中，运行模型为 Gemma 4 31B。加速的主要贡献者实际上是第二个组件 Blaise，它将文档保存为文本，并仅将问题所需的部分交给模型。报道指出，Blaise 将 llama.cpp 的收益从 3.1 倍提高到了 14.5 倍。
单独使用 Taliesin 时，vLLM 每题时间为 15.56 秒，比 8.11 秒的基线更慢；SGLang 的时间为 22.02 秒，也比 10.29 秒的基线慢。只有 llama.cpp 在 KV 复用上表现更快，耗时 3.01 秒，优于 9.25 秒的基线。需要注意的是，这些比较存在不平衡：基线使用了 12,000 个 token 的窗口，仅看到库中最后 12% 的内容，并回答了 100 个问题中的 10 个；而 Taliesin 让模型处理所有问题，回答了 100 个中的 98 个。
Schelle 将 Galahad 与 RAGFlow 等检索增强生成（RAG）管道进行了对比。RAG 将文档分块并对排名最高的部分进行搜索。Schelle 引用基准测试指出，Galahad 能回答 100 个问题中的全部 100 个，而 RAGFlow 只能回答 77 个。“当搜索失败时，模型永远看不到答案，”他说。
针对为何此前无人提出此策略的问题，Schelle 认为竞争对手一直在追求“更大更好”的模型，而构建底层基础设施“没有真正的荣耀”。Corbenic 官网标语也强调：“停止建造更大的模型。构建下面的层。”
竞争格局与安全考量
实际上，类似概念已有多个竞品。拥有约 10,900 个 GitHub 星的开源项目 LMCache 已将 KV 缓存移至 CPU 内存、本地 SSD 和远程存储，并在 2024 年的博客中提出“让 LLM 只读一次每个文本”。在 Galahad 启动前 9 天，三星工程师详细介绍了该项目的重启可恢复 NVMe 层。LMCache 的商业支持者 Tensormesh 已于 5 月从包括 AMD Ventures、CoreWeave 和 Nvidia 的 NVentures 在内的投资者那里筹集了 2000 万美元。
Nvidia 的 Dynamo 框架支持将 KV 缓存从 GPU 内存经由主机 DRAM 转移至本地 NVMe 和网络存储。在 CES 2026 上，Nvidia 推出了名为 CMX 的 BlueField-4 上下文存储平台，旨在将 KV 缓存推送到 NVMe SSD，并称存储是人工智能的下一个前沿。华为也推出了统一缓存管理器以避免重复计算，而 Phison 的 aiDAPTIV+ 已在消费者笔记本电脑（如 Thunderobot 的 AI Master M7000）中将 KV 缓存存放在闪存上。
Galahad 与其竞争对手的真正区别更为狭窄。其论文直接引用了 LMCache 和 Mooncake，并以精确性作为区分点：比特相同的逻辑作为验收测试，任何不匹配都被视为错误。“准确，而不是近似，”Schelle 说道。这种对比在 CacheBlend 等技术面前最具挑战性，后者通过选择性重新计算来复用非前缀块，而非单纯卸载。
Galahad 被定位为“工作内存的安全存储库”，支持加密存储状态、隔离客户数据并记录活动。这一安全导向回应了真实存在的担忧：NDSS 2025 的研究人员展示过，vLLM 和 SGLang 中的 KV 缓存共享可能允许一个用户通过定时侧通道重建另一个用户的提示。Schelle 强调：“没有共享的缓存网络，没有任何东西被发送给我们。”
目前，Corbenic 是一家位于比利时的小团队，注册为特拉华州公司。虽然承诺公开原始日志，但尚未发布；Blaise 的选择方法因等待专利而未公开；相关论文仅为 arXiv 预印本，未经同行评审。其竞争对手多为经过更广泛测试的专有或开源解决方案。
尽管面临质疑，这一理念并非毫无价值。支付 GPU 重新阅读相同的合同、手册和代码确实是资源浪费。Schelle 称真正的竞争对手是“购买更多的 GPU”。随着内存和存储价格波动，能让现有服务器承担更多工作的软件有望找到市场。早期反应显示有“一些不错的请求和一些学习机会”。目前，Galahad 尚需第三方基准测试验证，例如在相同的 Nvidia 硬件上与开启前缀缓存的 LMCache 进行对抗测试。在此之前，最稳妥的解读是：Galahad 是对 KV 持久性的一种仔细且准确的理解。
