LLM Explorer VS WizardLM

LLM-X - Революционизируйте разработку LLM с помощью LLM-X! Интегрируйте большие языковые модели в ваш рабочий процесс с помощью безопасного API. Повысьте продуктивность и раскройте возможности языковых моделей для ваших проектов.

liteLLM - Используйте OpenAI для вызова всех API LLM. Используйте Bedrock, Azure, OpenAI, Cohere, Anthropic, Ollama, Sagemaker, HuggingFace, Replicate (свыше 100 LLM)

Pocket LLM - Запоминайте тысячи страниц PDF-файлов и документов, сканируйте URL-адреса и многое другое, чтобы искать информацию в них. Работает на основе ИИ и больших языковых моделей. Обучается на вашем ноутбуке.

LLMLingua - Для ускорения вывода LLMs и улучшения восприятия LLMs ключевой информации сжимаем подсказку и KV-кэш, что дает сжатие до 20x при минимальной потере производительности.