LM Studio VS Web LLM

ManyLLM - ManyLLM: Объедините и защитите свои локальные LLM-процессы. Рабочее пространство с приоритетом конфиденциальности для разработчиков и исследователей, поддерживающее совместимость с OpenAI API и локальный RAG.

AnythingLLM - AnythingLLM — это готовое к использованию в корпоративной среде решение «чат с вашими документами», обеспечивающее безопасность и конфиденциальность данных. Его может использовать вся ваша компания, превращая всех сотрудников в экспертов по вашему бизнесу за одну ночь.

LazyLLM - LazyLLM: Low-code для мультиагентных LLM-приложений. Создавайте, итерируйте и развертывайте сложные ИИ-решения быстро — от прототипа до продакшена. Сосредоточьтесь на алгоритмах, а не на инжиниринге.

LlamaEdge - Проект LlamaEdge позволяет с легкостью запускать приложения для инференса LLM и создавать API-сервисы, совместимые с OpenAI, для локального использования моделей серии Llama2.

Transformer Lab - Transformer Lab: Открытая платформа для создания, настройки и запуска больших языковых моделей (LLM) локально без программирования. Загрузите сотни моделей, настройте их на различном оборудовании, пообщайтесь, оцените результаты и многое другое.