作者：Junchen Jiang
发布Tensormesh
首先我想要在这里重申一遍我上周在LMCache #general Slack频道中发布的一条新闻：
“我非常高兴的宣布我们LMCache的创始团队已经在几个月前决定成立名为 Tensormesh 的公司。作为我们第一款产品 Beta 版本的发布，我们决定让Tensormesh正式亮相！
我们与公司同名的产品TensorMesh是一款 SaaS 前端，他允许您在我们所支持的不同硬件厂商的GPU上启动任何开源权重模型，同时对 LMCache 和 vLLM 进行参数自动调优以便在运行模型时提供最佳性能和成本节省。如果你想上手体验，点击这个链接在线注册。
前 100 名 Beta 测试者将在该平台获得 100 美元的 GPU 使用额度🔥🔥🔥
这对 LMCache 社区意味着什么？其实不应该被理解成一个大变动，因为 LMCache 依然是 Tensormesh 的基础，我们也致力于其光明的未来。我们承诺该项目将维持开放治理。如果 TensorMesh 成功，这可能意味着会有更多的贡献者加入 LMCache 项目。在短期内，请将 TensorMesh 视为 LMCache 社区的正式赞助商之一。
PyTorch Foundation
我们现在正式宣布：LMCache 已成为 PyTorch Foundation 旗下的生态系统(ecosystem project)项目（参见PyTorch官方blog）。我们非常有幸我们的社区能加入这个囊括了诸如 PyTorch、vLLM、DeepSpeed 等多个我们社区所依赖的项目foundation，这也从另一方面印证了我们的投入和对项目的开放管理。
我上周参加了 PyTorch conference并发表了演讲，与许多贡献者和合作伙伴进行了会面。LMCache 在会上设有展位，很多人前来与我们交流，氛围很棒，大家也都各抒己见，非常有insight。许多资深专家说这次活动有着像早期的 KubeCon一样的“能量”。我真的很高兴我们成为这个卓越开放生态系统的一部分，并期待和大家一起创造光明的未来！💪
发表评论