2025年に最高の GGML 代替ソフト
-
オフラインAI実験のための無料アプリ、Local AI Playground をお試しください。CPU推論、モデル管理など、多彩な機能を搭載しています。
-
Gemma 3nは、強力なマルチモーダルAIをエッジで実現します。メモリが限られたデバイス上でも、画像、音声、動画、テキストに関するAI処理を実行可能です。
-
GLM-4.5V: AIに高度なビジョンを搭載し、その能力を最大限に引き出します。スクリーンショットからのウェブコード生成、GUIの自動化、そして深い推論によるドキュメントや動画の分析を実現します。
-
Gemma 3 270M: 特定のタスクに特化した、コンパクトかつ超高効率なAI。正確な指示追従と低コストなオンデバイス展開向けにファインチューニング可能。
-
Gemma 2は、クラス最高の性能を提供し、さまざまなハードウェアで信じられないほどの速度で動作し、他のAIツールとの統合が容易で、重要な安全性の進歩が組み込まれています。
-
Gemma 3：Googleが提供するオープンソースのAIで、パワフルなマルチモーダルアプリケーションを実現します。柔軟で安全なモデルを活用し、多言語ソリューションを容易に構築できます。
-
Libra：Apple Silicon上で70Bモデルを実行！低ビット量子化、適応型コンテキストとエージェントオーケストレーションを実現。リソースを意識したAIアプリを構築。
-
LlamaEdgeプロジェクトを利用すれば、LLM推論アプリケーションの実行や、Llama2シリーズのLLMに対応したOpenAI互換のAPIサービスをローカルで簡単に構築できます。
-
大規模言語モデル（LLM）を、Giga社が提供するオンプレミスLLMで強化しましょう。強力なインフラ、OpenAI APIとの互換性、データプライバシーの保証。今すぐお問い合わせください！
-
Transformer Lab：コーディング不要で、LLMをローカル環境で構築、チューニング、実行できるオープンソースプラットフォーム。数百ものモデルをダウンロードし、様々なハードウェアでファインチューニング、チャット、評価など、様々な機能をご利用いただけます。
-
最先端の生成AIモデルを、完全にオフラインであなたのスマートフォン上で試すことができます。Google AI Edge Galleryで、ローカルAIを探求し、画像を解析、チャットを楽しみ、パフォーマンスに関する洞察を得ましょう。
-
MonsterGPT: チャットを通じてカスタムAIモデルのファインチューニングとデプロイが可能。複雑なLLM・AIタスクを簡素化し、60種類以上のオープンソースモデルに手軽にアクセスできます。
-
LLMの推論を高速化し、LLMが重要な情報を認識できるように、プロンプトとKVキャッシュを圧縮します。これにより、パフォーマンスをほとんど低下させることなく、最大20倍の圧縮を実現します。
-
EmbeddingGemma: 端末内で完結する、プライバシー重視のAIアプリ向け多言語テキスト埋め込み。オフライン環境でも、クラス最高水準のパフォーマンスと効率性を提供します。
-
-
CentMLは、LLMの導入を効率化し、コストを最大65%削減、そして最高のパフォーマンスを保証します。企業やスタートアップに最適です。今すぐお試しください！
-
FriendliAIのPeriFlowで、生成AIプロジェクトを飛躍的に進化させましょう。最速のLLMサービングエンジン、柔軟な導入オプションを提供し、業界リーダーからも信頼されています。
-
Genkit は、Google の Firebase が開発し、本番環境でも実際に活用している、フルスタックのAI搭載アプリケーション構築のためのオープンソースフレームワークです。
-
BAMLは、開発者が10倍高信頼で型安全なAIエージェントを構築できるよう支援します。どのLLMからでも構造化された出力を取得し、AI開発のワークフローを効率化します。
-
-
BAGEL：ByteDance-Seed発のオープンソース多モーダルAI。画像とテキストを理解、生成、編集できます。強力かつ柔軟で、GPT-4oに匹敵。高度なAIアプリケーションを構築できます。
-
LM Studioは、ローカルおよびオープンソースの大規模言語モデル（LLM）の実験を手軽に行えるデスクトップアプリです。このクロスプラットフォーム対応アプリを使用すると、Hugging Faceからあらゆるggml互換モデルをダウンロードして実行できるほか、シンプルながらも強力なモデル構成および推論用UIが提供されます。本アプリは、可能な限りGPUを活用します。
-
Shimmy: ローカルLLM向け設定不要のRustサーバー。 OpenAI APIとのシームレスな互換性により、コードの変更は一切不要です。 高速かつプライベートなGGUF/SafeTensors推論。
-
-
-
-
Kolosal AIは、ラップトップ、デスクトップ、さらにはRaspberry Piなどのデバイス上で、大規模言語モデル（LLM）をローカルで実行できるオープンソースプラットフォームです。速度、効率性、プライバシー、そして環境への配慮を重視しています。
-
ChatGLM-6Bは、6.2Bのパラメータを持つオープンソースのCN&ENモデルです（現時点では中国語のQAと対話に最適化されています）。
-
信頼性の低い生成AIに、お悩みではありませんか？ Future AGIは、評価から最適化、リアルタイムな安全性までを包括するエンドツーエンドプラットフォームです。 信頼性の高いAI構築を、より迅速に。
-
