| Launched | 2022-11 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Cloudflare Analytics,Fastly,Google Fonts,GitHub Pages,Highlight.js,jQuery,Varnish |
| Tag | Text Analysis |
| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Low Code,Mlops |
| Global Rank | 2509184 |
| Country | United States |
| Month Visit | 8348 |
| Global Rank | |
| Country | |
| Month Visit |
Estimated traffic data from Similarweb
LM Studio - LM Studio 是一款操作简便的桌面应用程序,专为探索本地和开源大型语言模型(LLM)而设计。LM Studio 跨平台桌面应用程序让您能够从 Hugging Face 下载并运行任何 ggml 兼容模型,并提供了一个简洁而功能强大的模型配置和推理用户界面(UI)。该应用程序在可能的情况下会充分利用您的图形处理器(GPU)。
LLMLingua - 为了提升 LLM 的推理速度,增强 LLM 识别关键信息的感知能力,对提示和 KV 缓存进行压缩,在性能损失极小的情况下实现了高达 20 倍的压缩。
vLLM - 面向 LLM 的高吞吐量、内存高效的推理和服务引擎
LLM-X - 使用 LLM-X 彻底改变 LLM 开发!利用安全的 API 将大型语言模型无缝集成到你的工作流程中。提升工作效率,为你的项目释放语言模型的力量。