VLLM| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Software Development,Data Science |
| Launched | 2024-03 |
| Pricing Model | Freemium |
| Starting Price | $19 /mo |
| Tech used | Next.js,Vercel,Gzip,OpenGraph,Webpack,HSTS |
| Tag | Text Analysis,No-Code,Data Analysis |
| Global Rank | |
| Country | |
| Month Visit |
| Global Rank | 11268274 |
| Country | Germany |
| Month Visit | 87 |
Estimated traffic data from Similarweb
EasyLLM - EasyLLM — это проект с открытым исходным кодом, который предоставляет полезные инструменты и методы для работы с большими языковыми моделями (LLM), как с открытым, так и с закрытым исходным кодом. Начните работу мгновенно или ознакомьтесь с документацией.
LLMLingua - Для ускорения вывода LLMs и улучшения восприятия LLMs ключевой информации сжимаем подсказку и KV-кэш, что дает сжатие до 20x при минимальной потере производительности.
StreamingLLM - Представляем StreamingLLM: эффективный фреймворк для развертывания LLMs в потоковых приложениях. Обрабатывайте бесконечные последовательности, не жертвуя производительностью, и наслаждайтесь оптимизацией скорости до 22,2 раза. Идеально подходит для многораундовых диалогов и повседневных помощников.
LazyLLM - LazyLLM: Low-code для мультиагентных LLM-приложений. Создавайте, итерируйте и развертывайте сложные ИИ-решения быстро — от прототипа до продакшена. Сосредоточьтесь на алгоритмах, а не на инжиниринге.