2025年最好的 Harbor 替代方案
-

LM Studio 是一款操作簡便的桌面應用程式,讓您能輕鬆體驗本地與開源的大型語言模型(LLM)。這款 LM Studio 跨平台桌面應用程式,讓您可以從 Hugging Face 下載並運行任何 ggml-相容的模型,並提供簡潔而強大的模型配置與推論介面。該應用程式會盡可能地運用您的 GPU 資源。
-

LazyLLM: 專為多代理式LLM應用程式打造的低程式碼平台。快速建構、疊代並部署複雜的AI解決方案,從原型開發到正式部署一氣呵成。將重心放在演算法的創新,而非繁瑣的工程細節。
-

ManyLLM: 整合並保障您的本機大型語言模型工作流程。一個以隱私為優先的工作區,適用於開發人員、研究人員,並具備 OpenAI API 相容性與本機 RAG 功能。
-

LLxprt Code:專為多模型大型語言模型打造的通用型AI命令列介面。讓您能透過終端機,輕鬆存取Google、OpenAI、Anthropic等眾多平台服務。加速您的程式開發、除錯與自動化流程。
-

-

-

Helicone AI Gateway: 整合並最佳化您的 LLM API,成就生產級應用。運用智慧路由與快取技術,全面提升效能、有效撙節成本,並確保服務穩定運行。
-

-

Langbase,一個以可組合基礎架構為核心的革命性 AI 平台。提供速度、靈活性和易用性。幾分鐘內即可部署。支援多種大型語言模型 (LLM)。專為開發人員設計。節省成本。用途廣泛。賦能 AI 發展。
-

使用 OpenAI 格式呼叫所有 LLM API。使用 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate(100 多個 LLM)
-

LLM Gateway:整合並優化多供應商的 LLM API,實現智慧路由、精準成本追蹤,並顯著提升 OpenAI、Anthropic 等平台的效能。開源專案。
-

-

-

Transformer Lab:一個開源平台,讓您可在本地端建構、微調和執行大型語言模型 (LLM),無需編碼。下載數百個模型,跨硬體微調,聊天、評估等等。
-

-

Lacquer:一款專為程式碼優先的工程團隊而設計的開源人工智慧工作流程引擎。它能自動化複雜任務,並協助您建構 GitOps 原生的人工智慧內部工具。
-

LlamaEdge 專案讓您輕鬆在本機端執行 LLM 推論應用程式,並為 Llama2 系列的 LLM 建立與 OpenAI 相容的 API 服務。
-

使用 backboard.io 的 API,整合逾2200個大型語言模型。取得持續性 AI 記憶與 RAG,讓您打造更智慧、具情境感知能力的應用程式,告別碎片化困擾。
-

Ruby AI 簡化了!RubyLLM:單一 API 即可存取頂尖 AI 模型 (OpenAI、Gemini、Anthropic、DeepSeek)。輕鬆打造具備聊天、圖像、PDF、串流等功能的 AI 應用程式。
-

TaskingAI 將 Firebase 的開發簡便性帶入 AI 原生應用程式開發。您的專案可以從選擇一個 LLM 模型開始,打造一個由有狀態 API 支援、反應靈敏的助手,並透過受控記憶體、工具整合以及增強式生成系統,進一步強化其功能。
-

Laminar 是一個開發者平台,結合了排程、評估、數據和可觀察性,賦能 AI 開發者以 10 倍的速度發佈可靠的 LLM 應用程式。
-

Helix 是一個專為建構AI代理而設計的私有生成式AI堆疊,其特色包括宣告式管線、知識(RAG)功能、API串接以及頂級的測試機制。
-

-

-

Anannas 透過單一API,輕鬆整合逾500個大型語言模型。助您簡化整合流程、優化營運成本,並確保您的企業級AI應用程式享有99.999%的極致可靠性。
-

即時測試、比較並精進橫跨 50 多種大型語言模型的提示詞 — 無需 API 金鑰或註冊。強制執行 JSON 結構綱要、執行測試並進行協作。透過 LangFast,更快打造更卓越的人工智慧。
-

LangDB AI Gateway 是您 AI 工作流程的一站式指揮中心。它提供對 150 多個模型的統一存取,透過智慧路由實現高達 70% 的成本節省,以及無縫整合。
-

AnythingLLM 是一款企業級的「與文件對話」解決方案,安全可靠,全公司皆可使用,讓每位員工一夜之間成為貴公司業務的專家。
-

一次與 o3、Claude、Gemini、DeepSeek 等眾多模型同時對話。所有最頂尖的模型,只要一問世,立刻就能在單一應用程式中體驗。
-

使用 Open Agent Kit 快速打造客製化 AI 代理程式! 開放原始碼、具備高度彈性,且可部署於任何地方。 連接大型語言模型 (LLM),並透過外掛程式擴充功能。
