VLLM
LM Studio| Launched | |
| Pricing Model | Free |
| Starting Price | |
| Tech used | |
| Tag | Software Development,Data Science,Uncensored LLM |
| Launched | 2023-05 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Plausible Analytics,Netlify |
| Tag | Code Development |
| Global Rank | |
| Country | |
| Month Visit |
| Global Rank | 37593 |
| Country | United States |
| Month Visit | 1834114 |
Estimated traffic data from Similarweb
EasyLLM - EasyLLM est un projet open source qui fournit des outils et méthodes utiles pour travailler avec des modèles de langage volumineux (LLM), open source et fermés. Commencez immédiatement ou consultez la documentation.
LLMLingua - Pour accélérer l'inférence LLM et améliorer la perception des informations clés de LLM, compressez l'invite et KV-Cache, ce qui permet d'obtenir une compression jusqu'à 20x avec une perte de performance minimale.
MegaLLM - Déployez plus rapidement vos fonctionnalités d’IA grâce à la passerelle unifiée de MegaLLM. Accédez à Claude, GPT-5, Gemini, Llama et plus de 70 modèles via une seule API. Inclut des analyses intégrées, des mécanismes intelligents de repli et un suivi de l’utilisation.
StreamingLLM - Présentation de StreamingLLM : une structure efficace pour le déploiement des LLM dans les applications de streaming. Gérez des longueurs de séquence infinies sans sacrifier les performances et profitez d'optimisations de la vitesse allant jusqu'à 22,2 x. Idéal pour les dialogues multitours et les assistants quotidiens.
LazyLLM - LazyLLM : Le low-code pour les applications LLM multi-agents. Créez, itérez et déployez rapidement des solutions d'IA complexes, du prototype à la production. Concentrez-vous sur les algorithmes, et non sur l'ingénierie.