LMCache 与 KV Cache 社区的新篇章

TL;DR： 作为 LMCache 社区的重要贡献者，Tensormesh 近期获得了一笔重大投资。这不仅是 Tensormesh 的重要里程碑，也将进一步推动 LMCache 社区实现共同使命：为每一位开发者打造最好的 KV cache library。

欢迎加入我们，与我们一起构建面向未来的 AI-native 数据层！

KV cache 在 LLM serving 中正变得越来越重要。它不再只是被视为临时的运行时状态，而是可以承载可复用的信息，并在不同请求、推理集群，甚至模型部署之间持续存在。

因此，产业界和学术界都开始意识到：KV cache 不应仅仅依附于推理引擎存在，而应当作为一个独立的数据层，被单独管理、分发和优化，并与推理引擎、存储设备、加速器以及推理编排系统解耦。

换句话说，一个面向 AI-native data 的全新独立层正在形成——这个层就是 KV cache。新的技术趋势，也呼唤着新的开源项目、专业社区、创业公司，并最终走向真正的产品化。

LMCache

从一开始，LMCache 就很荣幸能够在这一演进中扮演重要角色。

作为首个开源 KV cache 项目，LMCache 聚集了一批专注于 GPU memory 之外 KV cache 管理的专家与贡献者。如今，LMCache 已拥有超过 220 位贡献者，并获得了来自 30 多家行业合作伙伴的贡献与支持。

LMCache 的设计目标就是成为一个独立的数据层，并与广泛的推理引擎、存储厂商、加速器厂商以及推理编排系统进行集成。

然而，持续推动 KV cache 技术前沿，并维护这样一个开源项目，需要长期投入和生态支持。

Tensormesh 由来自 UChicago、并发起 LMCache 项目的研究人员于一年前创立。此后，LMCache 已经取得了显著发展，并形成了一个充满活力、多元开放的贡献者社区。与此同时，Tensormesh 也一直在持续帮助维护和改进 LMCache 项目的关键部分。

近期，Tensormesh 在原有 450 万美元种子轮融资的基础上，又获得了 2000 万美元融资，其中包括来自 AMD、NVIDIA 和 CoreWeave 的重要战略投资。

这些投资不仅体现了主要行业伙伴对 Tensormesh 和 LMCache 方向的支持，更重要的是，也反映出行业正在形成一个更广泛的共识：提升 KV cache layer 的性能，是充分释放加速器、存储系统和推理系统性能潜力的关键。

Tensormesh 的使命，是进一步推动 LMCache 的采用与发展，并加深 LMCache 与生态系统中其他合作伙伴的连接。Tensormesh 将持续致力于提升 LMCache 的性能、兼容性与可靠性。

LMCache 对开源的承诺不会改变。

LMCache 社区汇聚了来自存储、推理优化和机器学习算法领域的优秀专家。欢迎加入我们，一起构建开源 KV cache layer，推动 KV cache 生态持续发展！

欢迎通过以下渠道持续关注 LMCache：