Harbor VS LiteLLM

LM Studio - LM Studioは、ローカルおよびオープンソースの大規模言語モデル（LLM）の実験を手軽に行えるデスクトップアプリです。このクロスプラットフォーム対応アプリを使用すると、Hugging Faceからあらゆるggml互換モデルをダウンロードして実行できるほか、シンプルながらも強力なモデル構成および推論用UIが提供されます。本アプリは、可能な限りGPUを活用します。

LazyLLM - LazyLLM: マルチエージェントLLMアプリ向けのローコード 複雑なAIソリューションを、プロトタイプから本番環境まで迅速に構築、反復、デプロイ。 開発作業ではなく、アルゴリズムに注力。

ManyLLM - ManyLLM: ローカルLLMワークフローを統合し、セキュアに管理。開発者や研究者向けに、プライバシーを最優先するワークスペース。OpenAI API互換性とローカルRAGに対応。

LLxprt Code - LLxprt Code: マルチモデルLLM対応の汎用AI CLI。ターミナルからGoogle、OpenAI、Anthropicなどのサービスにアクセス可能。コーディング、デバッグ、自動化の効率を飛躍的に向上させます。

Haystack - Haystackは、TransformerモデルやLLMを使用してデータと対話するためのオープンソースNLPフレームワークです。