LlamaEdge VS Llama Assistant

LM Studio - LM Studioは、ローカルおよびオープンソースの大規模言語モデル（LLM）の実験を手軽に行えるデスクトップアプリです。このクロスプラットフォーム対応アプリを使用すると、Hugging Faceからあらゆるggml互換モデルをダウンロードして実行できるほか、シンプルながらも強力なモデル構成および推論用UIが提供されます。本アプリは、可能な限りGPUを活用します。

ManyLLM - ManyLLM: ローカルLLMワークフローを統合し、セキュアに管理。開発者や研究者向けに、プライバシーを最優先するワークスペース。OpenAI API互換性とローカルRAGに対応。

llamafile - Llamafile は Mozilla チームによるプロジェクトです。ユーザーは単一のプラットフォームに依存しないファイルを使用して LLM を配布して実行できます。

LlamaFarm - LlamaFarm: 本番対応AIアプリを迅速に構築・デプロイ。Configuration as CodeでAIを定義し、完全な制御とモデルのポータビリティを実現。

LazyLLM - LazyLLM: マルチエージェントLLMアプリ向けのローコード 複雑なAIソリューションを、プロトタイプから本番環境まで迅速に構築、反復、デプロイ。 開発作業ではなく、アルゴリズムに注力。