LMQL VS VLLM

LM Studio - LM Studioは、ローカルおよびオープンソースの大規模言語モデル（LLM）の実験を手軽に行えるデスクトップアプリです。このクロスプラットフォーム対応アプリを使用すると、Hugging Faceからあらゆるggml互換モデルをダウンロードして実行できるほか、シンプルながらも強力なモデル構成および推論用UIが提供されます。本アプリは、可能な限りGPUを活用します。

LLMLingua - LLMの推論を高速化し、LLMが重要な情報を認識できるように、プロンプトとKVキャッシュを圧縮します。これにより、パフォーマンスをほとんど低下させることなく、最大20倍の圧縮を実現します。

LazyLLM - LazyLLM: マルチエージェントLLMアプリ向けのローコード 複雑なAIソリューションを、プロトタイプから本番環境まで迅速に構築、反復、デプロイ。 開発作業ではなく、アルゴリズムに注力。

LLM-X - 言語モデル開発に革命を起こす LLM-X！安全な API を使用して、大規模言語モデルをシームレスにワークフローに導入できます。生産性を向上し、プロジェクトで言語モデルの力を解き放ちましょう。