Harbor VS Langdock

LM Studio - LM Studio est une application de bureau intuitive, conçue pour faciliter l'expérimentation avec les Large Language Models (LLM) locaux et open-source. Cette application multiplateforme vous offre la possibilité de télécharger et d'exécuter n'importe quel modèle compatible ggml directement depuis Hugging Face. Elle intègre une interface utilisateur (UI) pour la configuration et l'inférence des modèles, se distinguant par sa simplicité d'accès et sa puissance. De plus, elle tire pleinement parti de votre GPU lorsque les conditions le permettent.

LazyLLM - LazyLLM : Le low-code pour les applications LLM multi-agents. Créez, itérez et déployez rapidement des solutions d'IA complexes, du prototype à la production. Concentrez-vous sur les algorithmes, et non sur l'ingénierie.

ManyLLM - ManyLLM : Unifiez et sécurisez vos flux de travail LLM locaux. Un espace de travail axé sur la confidentialité pour les développeurs, les chercheurs, avec compatibilité OpenAI API et RAG local.

LLxprt Code - LLxprt Code : CLI d'IA universelle pour les LLM multi-modèles. Accédez à Google, OpenAI, Anthropic et à bien d'autres services, directement depuis votre terminal. Boostez le codage, le débogage et l'automatisation.

Haystack - Haystack est un cadre NLP open source pour interagir avec vos données en utilisant les modèles de transformateurs et LLM