VLLM
UseLLM| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Software Development,Data Science |
| Launched | 2023-5 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Gzip,JSON Schema,OpenGraph,OpenResty |
| Tag | Text Generators,Coding Assistants,Chatbot Builder |
| Global Rank | |
| Country | |
| Month Visit |
| Global Rank | 0 |
| Country | |
| Month Visit | 1652 |
Estimated traffic data from Similarweb
EasyLLM - EasyLLM — это проект с открытым исходным кодом, который предоставляет полезные инструменты и методы для работы с большими языковыми моделями (LLM), как с открытым, так и с закрытым исходным кодом. Начните работу мгновенно или ознакомьтесь с документацией.
LLMLingua - Для ускорения вывода LLMs и улучшения восприятия LLMs ключевой информации сжимаем подсказку и KV-кэш, что дает сжатие до 20x при минимальной потере производительности.
StreamingLLM - Представляем StreamingLLM: эффективный фреймворк для развертывания LLMs в потоковых приложениях. Обрабатывайте бесконечные последовательности, не жертвуя производительностью, и наслаждайтесь оптимизацией скорости до 22,2 раза. Идеально подходит для многораундовых диалогов и повседневных помощников.
LazyLLM - LazyLLM: Low-code для мультиагентных LLM-приложений. Создавайте, итерируйте и развертывайте сложные ИИ-решения быстро — от прототипа до продакшена. Сосредоточьтесь на алгоритмах, а не на инжиниринге.
OneLLM - OneLLM — ваша сквозная платформа без кода для создания и развертывания LLM.