LMQL
LLM-X| Launched | 2022-11 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Cloudflare Analytics,Fastly,Google Fonts,GitHub Pages,Highlight.js,jQuery,Varnish |
| Tag | Text Analysis |
| Launched | 2024-02 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Amazon AWS CloudFront,HTTP/3,Progressive Web App,Amazon AWS S3 |
| Tag | Inference Apis,Workflow Automation,Developer Tools |
| Global Rank | 2509184 |
| Country | United States |
| Month Visit | 8348 |
| Global Rank | 18230286 |
| Country | |
| Month Visit | 218 |
Estimated traffic data from Similarweb
LM Studio - LM Studio — это удобное настольное приложение для экспериментов с локальными и открытыми большими языковыми моделями (LLM). Кроссплатформенное настольное приложение LM Studio позволяет скачивать и запускать любую ggml-совместимую модель с Hugging Face, а также предоставляет простой, но мощный пользовательский интерфейс для настройки моделей и выполнения инференса. Приложение задействует ваш GPU по возможности.
LLMLingua - Для ускорения вывода LLMs и улучшения восприятия LLMs ключевой информации сжимаем подсказку и KV-кэш, что дает сжатие до 20x при минимальной потере производительности.
LazyLLM - LazyLLM: Low-code для мультиагентных LLM-приложений. Создавайте, итерируйте и развертывайте сложные ИИ-решения быстро — от прототипа до продакшена. Сосредоточьтесь на алгоритмах, а не на инжиниринге.
vLLM - Высокопроизводительный и экономичный по памяти механизм вывода и обслуживания для LLMs