Text Generation WebUI
大型语言模型的 Gradio 网络用户界面。支持变压器、GPTQ、llama.cpp (GGUF) 和 Llama 模型。
LLMLingua
为了提升 LLM 的推理速度，增强 LLM 识别关键信息的感知能力，对提示和 KV 缓存进行压缩，在性能损失极小的情况下实现了高达 20 倍的压缩。
Text Generation WebUI
| Launched | 2023 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Text Generators |
LLMLingua
| Launched | 2023-7 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Google Analytics,Google Tag Manager,cdnjs,Font Awesome,Highlight.js,jQuery,Gzip,HSTS,Nginx,Ubuntu |
| Tag | Text Generators,Data Science,Summarize Text |
Text Generation WebUI Rank/Visit
| Global Rank | 0 |
| Country | |
| Month Visit | 0 |
Top 5 Countries
Traffic Sources
LLMLingua Rank/Visit
| Global Rank | 11514600 |
| Country | India |
| Month Visit | 1634 |
Top 5 Countries
50.25%
49.75%
India
United States
Traffic Sources
8.83%
1.49%
0.11%
9.67%
29.93%
49.62%
social
paidReferrals
mail
referrals
search
direct
Estimated traffic data from Similarweb
What are some alternatives?
When comparing Text Generation WebUI and LLMLingua, you can also consider the following products
Text Generator Plugin - 了解 TextGen 如何通过广泛的模型兼容性彻底改变语言生成任务。轻松创建内容、开发聊天机器人并增强数据集。
LoLLMS Web UI - LoLLMS WebUI：访问并利用 LLM 模型进行写作、编码、数据整理、图像和音乐生成等等。立即尝试！
Open WebUI - LLM 的用户友好型 WebUI（以前称为 Ollama WebUI）
ChattyUI - 开源、功能丰富的 Gemini/ChatGPT 类界面，用于在浏览器中使用 WebGPU 本地运行开源模型（Gemma、Mistral、LLama3 等）。无需服务器端处理 - 您的数据永远不会离开您的电脑！