Shimmy
Shimmy：免配置的 Rust 伺服器，專為本地大型語言模型設計。無縫相容 OpenAI API，無需修改任何程式碼。提供快速、私密的 GGUF/SafeTensors 推論。
ManyLLM
ManyLLM: 整合並保障您的本機大型語言模型工作流程。一個以隱私為優先的工作區，適用於開發人員、研究人員，並具備 OpenAI API 相容性與本機 RAG 功能。
Shimmy
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag |
ManyLLM
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag |
Shimmy Rank/Visit
| Global Rank | |
| Country | |
| Month Visit |
Top 5 Countries
Traffic Sources
ManyLLM Rank/Visit
| Global Rank | |
| Country | |
| Month Visit |
Top 5 Countries
Traffic Sources
Estimated traffic data from Similarweb
What are some alternatives?
When comparing Shimmy and ManyLLM , you can also consider the following products
local.ai - 探索 Local AI Playground，一款免費離線 AI 實驗應用程式。其功能包含 CPU 推論、模型管理等等。
TalkCody - TalkCody: The open-source AI coding agent. Boost developer velocity with true privacy, model freedom & predictable costs.
Rig - 運用 Rig，在 Rust 中加速 LLM 應用程式的開發。透過適用於 LLM 和向量資料庫的統一 API，打造出可擴展且型別安全的 AI 應用程式。開源且高效能。
LM Studio - LM Studio 是一款操作簡便的桌面應用程式，讓您能輕鬆體驗本地與開源的大型語言模型（LLM）。這款 LM Studio 跨平台桌面應用程式，讓您可以從 Hugging Face 下載並運行任何 ggml-相容的模型，並提供簡潔而強大的模型配置與推論介面。該應用程式會盡可能地運用您的 GPU 資源。