2025年最好的 Harbor 替代方案
-

LM Studio 是一款操作简便的桌面应用程序,专为探索本地和开源大型语言模型(LLM)而设计。LM Studio 跨平台桌面应用程序让您能够从 Hugging Face 下载并运行任何 ggml 兼容模型,并提供了一个简洁而功能强大的模型配置和推理用户界面(UI)。该应用程序在可能的情况下会充分利用您的图形处理器(GPU)。
-

-

-

LLxprt Code:一款面向多模型大语言模型的通用AI命令行界面。您可以通过终端轻松访问 Google、OpenAI、Anthropic 等众多模型。助力您提升编程、调试及自动化能力。
-

-

-

Helicone AI Gateway: 统一并优化您的LLM API,为生产环境提供强大支持。借助智能路由与缓存,助您显著提升性能、大幅降低成本,并确保系统稳定可靠。
-

-

Langbase,一个拥有可组合基础设施的革命性AI平台。提供速度、灵活性和可访问性。几分钟内部署。支持多种LLM。非常适合开发人员。节省成本。用途广泛。赋能AI发展。
-

使用 OpenAI 格式调用所有 LLM API。使用 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate(100 多个 LLM)
-

LLM Gateway:一站式统一管理与优化多源LLM API。实现智能路由、精细化成本追踪,显著提升OpenAI、Anthropic等平台的性能表现。开源。
-

-

-

Transformer Lab:一个开源平台,无需编码即可在本地构建、微调和运行大型语言模型 (LLM)。下载数百个模型,跨硬件微调,聊天,评估等等。
-

-

-

LlamaEdge 项目让您能够轻松运行 LLM 推理应用程序,并在本地为 Llama2 系列的 LLM 创建与 OpenAI 兼容的 API 服务。
-

借助 backboard.io 的 API,整合 2200 多个大型语言模型。实现持久化 AI 记忆与 RAG 能力,助您打造更智能、上下文感知且无碎片化的应用程序。
-

Ruby AI 简化版!RubyLLM:一个 API 即可连接顶级 AI 模型(OpenAI、Gemini、Anthropic、DeepSeek)。通过聊天、图像、PDF、流媒体等功能,轻松构建 AI 应用。
-

TaskingAI 为 AI 原生应用开发带来了 Firebase 的简洁体验。开启项目,只需选定一个 LLM 模型;构建响应式助手,则有状态 API 保驾护航;更可通过托管内存、工具集成和增强生成系统,让助手功能如虎添翼。
-

Laminar 是一款开发者平台,它将编排、评估、数据和可观察性相结合,赋能 AI 开发者以 10 倍的速度交付可靠的 LLM 应用程序。
-

Helix 是一个私有生成式AI技术栈,用于构建AI智能体,其功能包括声明式管道、知识库(RAG)、API接口绑定以及一流的测试能力。
-

-

使用 LLM-X 彻底改变 LLM 开发!利用安全的 API 将大型语言模型无缝集成到你的工作流程中。提升工作效率,为你的项目释放语言模型的力量。
-

Anannas 借助单一API接口,整合了500多个LLM。这能显著简化集成过程,有效优化运营成本,并为您的企业级AI应用提供99.999%的超高可靠性保障。
-

告别繁琐的API密钥和注册流程,即刻在50余种主流大型语言模型上测试、比较并精调提示词。支持JSON Schema强制校验、运行测试以及团队协作。借助 LangFast,助您更快地构建更优质的AI。
-

LangDB AI Gateway 是您人工智能工作流程的一站式指挥中心。它提供对 150 多种模型的统一访问,通过智能路由节省高达 70% 的成本,并实现无缝集成。
-

AnythingLLM 是一款企业级“与文档对话”解决方案,安全可靠,可供整个公司使用,让每个人都能一夜之间成为贵公司业务的专家。
-

-

使用 Open Agent Kit 快速构建定制化 AI 智能体!开源、灵活,且可部署于任何环境。连接 LLM 并通过插件进行扩展。
