LLMLingua
为了提升 LLM 的推理速度，增强 LLM 识别关键信息的感知能力，对提示和 KV 缓存进行压缩，在性能损失极小的情况下实现了高达 20 倍的压缩。
LMCache
| Launched | 2024-10 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Google Analytics,Google Tag Manager,cdnjs,Cloudflare CDN,Fastly,Google Fonts,GitHub Pages,Gzip,HTTP/3,Varnish |
| Tag | Infrastructure,Data Pipelines,Developer Tools |
LLMLingua
| Launched | 2023-7 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Google Analytics,Google Tag Manager,cdnjs,Font Awesome,Highlight.js,jQuery,Gzip,HSTS,Nginx,Ubuntu |
| Tag | Text Generators,Data Science,Summarize Text |
LMCache Rank/Visit
| Global Rank | 475554 |
| Country | China |
| Month Visit | 59830 |
Top 5 Countries
31.32%
26.42%
12.18%
6.77%
5.78%
China
United States
India
Hong Kong
Korea, Republic of
Traffic Sources
6.12%
0.99%
0.14%
13.7%
27.62%
51.36%
social
paidReferrals
mail
referrals
search
direct
LLMLingua Rank/Visit
| Global Rank | 11514600 |
| Country | India |
| Month Visit | 1634 |
Top 5 Countries
50.25%
49.75%
India
United States
Traffic Sources
8.83%
1.49%
0.11%
9.67%
29.93%
49.62%
social
paidReferrals
mail
referrals
search
direct
Estimated traffic data from Similarweb
What are some alternatives?
When comparing LMCache and LLMLingua, you can also consider the following products
GPTCache - ChatGPT 和各种大型语言模型 (LLM) 拥有令人难以置信的多功能性，可以开发各种各样的应用程序。
LazyLLM - LazyLLM：多智能体LLM应用低代码开发平台。 快速构建、迭代并部署复杂的AI解决方案，从原型到生产。 专注算法，轻工程。
Supermemory - Supermemory 赋予您的 LLM 以长期记忆能力。告别无状态的文本生成，您的 LLM 将能从文件、聊天记录和工具中精准调取所需事实，从而确保其回复始终保持一致性、上下文关联性，并更具个性化。
LM Studio - LM Studio 是一款操作简便的桌面应用程序，专为探索本地和开源大型语言模型（LLM）而设计。LM Studio 跨平台桌面应用程序让您能够从 Hugging Face 下载并运行任何 ggml 兼容模型，并提供了一个简洁而功能强大的模型配置和推理用户界面（UI）。该应用程序在可能的情况下会充分利用您的图形处理器（GPU）。
vLLM - 面向 LLM 的高吞吐量、内存高效的推理和服务引擎