Shimmy
Shimmy：零配置Rust服务器，专为本地大模型设计。完美兼容OpenAI API，您无需修改现有代码。提供快速、私有的GGUF/SafeTensors推理服务。
ManyLLM 
Shimmy
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag |
ManyLLM
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag |
Shimmy Rank/Visit
| Global Rank | |
| Country | |
| Month Visit |
Top 5 Countries
Traffic Sources
ManyLLM Rank/Visit
| Global Rank | |
| Country | |
| Month Visit |
Top 5 Countries
Traffic Sources
Estimated traffic data from Similarweb
What are some alternatives?
When comparing Shimmy and ManyLLM , you can also consider the following products
local.ai - 探索本地AI Playground，一款免费的离线AI实验应用。其功能包括CPU推理、模型管理等。
TalkCody - TalkCody: The open-source AI coding agent. Boost developer velocity with true privacy, model freedom & predictable costs.
Rig - 利用 Rig，在 Rust 中加速 LLM 应用开发。借助为 LLM 和向量数据库设计的统一 API，打造可扩展、类型安全的 AI 应用。开源，且性能卓越。
LM Studio - LM Studio 是一款操作简便的桌面应用程序，专为探索本地和开源大型语言模型（LLM）而设计。LM Studio 跨平台桌面应用程序让您能够从 Hugging Face 下载并运行任何 ggml 兼容模型，并提供了一个简洁而功能强大的模型配置和推理用户界面（UI）。该应用程序在可能的情况下会充分利用您的图形处理器（GPU）。