Text Generation WebUI
Gradio 網頁 UI，適用於大型語言模型。支援變形金剛、GPTQ、llama.cpp（GGUF）、Llama 模型。
LLMLingua
為了加速 LLM 的推論並增強 LLM 對關鍵資訊的感知，壓縮提示和 KV 快取，在效能損失極小的情況下達到高達 20 倍的壓縮率。
Text Generation WebUI
| Launched | 2023 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Text Generators |
LLMLingua
| Launched | 2023-7 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Google Analytics,Google Tag Manager,cdnjs,Font Awesome,Highlight.js,jQuery,Gzip,HSTS,Nginx,Ubuntu |
| Tag | Text Generators,Data Science,Summarize Text |
Text Generation WebUI Rank/Visit
| Global Rank | 0 |
| Country | |
| Month Visit | 0 |
Top 5 Countries
Traffic Sources
LLMLingua Rank/Visit
| Global Rank | 11514600 |
| Country | India |
| Month Visit | 1634 |
Top 5 Countries
50.25%
49.75%
India
United States
Traffic Sources
8.83%
1.49%
0.11%
9.67%
29.93%
49.62%
social
paidReferrals
mail
referrals
search
direct
Estimated traffic data from Similarweb
What are some alternatives?
When comparing Text Generation WebUI and LLMLingua, you can also consider the following products
Text Generator Plugin - 發現 TextGen 如何透過廣泛的模型相容性徹底革新語言生成任務。輕鬆建立內容、開發聊天機器人和擴增數據集。
LoLLMS Web UI - LoLLMS WebUI：使用 LLM 模型進行寫作、編碼、數據整理、圖像和音樂生成等，還有更多功能。立即試用！
Open WebUI - LLM 的使用者友善 WebUI（原 Ollama WebUI）
ChattyUI - 開源且功能豐富的 Gemini/ChatGPT 類似介面，可在瀏覽器中使用 WebGPU 本地執行開源模型（Gemma、Mistral、LLama3 等）。無伺服器端處理 - 您的數據永遠不會離開您的電腦！