LLM-X| Launched | 2022-11 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Cloudflare Analytics,Fastly,Google Fonts,GitHub Pages,Highlight.js,jQuery,Varnish |
| Tag | Text Analysis |
| Launched | 2024-02 |
| Pricing Model | Free |
| Starting Price | |
| Tech used | Amazon AWS CloudFront,HTTP/3,Progressive Web App,Amazon AWS S3 |
| Tag | Inference Apis,Workflow Automation,Developer Tools |
| Global Rank | 2509184 |
| Country | United States |
| Month Visit | 8348 |
| Global Rank | 18230286 |
| Country | |
| Month Visit | 218 |
Estimated traffic data from Similarweb
LM Studio - LM Studioは、ローカルおよびオープンソースの大規模言語モデル(LLM)の実験を手軽に行えるデスクトップアプリです。このクロスプラットフォーム対応アプリを使用すると、Hugging Faceからあらゆるggml互換モデルをダウンロードして実行できるほか、シンプルながらも強力なモデル構成および推論用UIが提供されます。本アプリは、可能な限りGPUを活用します。
LLMLingua - LLMの推論を高速化し、LLMが重要な情報を認識できるように、プロンプトとKVキャッシュを圧縮します。これにより、パフォーマンスをほとんど低下させることなく、最大20倍の圧縮を実現します。
LazyLLM - LazyLLM: マルチエージェントLLMアプリ向けのローコード 複雑なAIソリューションを、プロトタイプから本番環境まで迅速に構築、反復、デプロイ。 開発作業ではなく、アルゴリズムに注力。
vLLM - 大規模言語モデル向けの、スループットが高くメモリー効率に優れた推論およびサービングエンジン