Martian

Martian 是一家旨在使 AI 工具成为可能的公司，它通过将转换器转变成程序，让我们能够更好地理解转换器的工作原理。他们的第一个工具——模型路由器，将查询路由到最佳语言模型中，实时实现比单个提供商更高的性能和更低的成本。该工具基于他们的模型映射方法，该方法涉及将模型转换为新格式，同时保留重要属性。通过将模型映射到更大的模型中或将它们嵌入到向量空间中，他们可以在不运行模型的情况下获得见解并预测其性能。

主要特点：

1. **模型路由器：**模型路由器将查询实时路由到最合适的语言模型中。 2. **更高的性能：**在应用程序中使用一组模型可以实现比任何单个语言模型更高的性能。 3. **更低的成本：**模型路由器通过选择更实惠的模型来节省成本，而不会牺牲性能。 4. **优于 GPT-4：**在 OpenAI 的评估套件 (openai/evals) 中，模型路由器在 91.8% 的任务上优于 GPT-4，并且在优化性能时平均降低了 20% 的成本。 5. **模型映射：**Martian 的方法涉及将模型映射到新格式，同时保留重要属性。 6. **理解模型：**模型映射允许对 AI 模型的操作方式进行更深入的理解，方法是在神经元内分离不同的函数并创建更稀疏、更容易理解的模型。 7. **嵌入模型：**将模型嵌入到向量空间中可以在不运行它们的情况下预测它们在特定提示上的性能。 8. **将转换器转换为程序：**通过将转换器映射到程序中，开发人员可以应用用于理解代码的工具来更好地理解 AI 模型。

用例：

1. **模型之间的有效路由：**模型路由器可用于在有多个语言模型可用的应用程序中，以根据查询要求实现最优路由并以更低的成本提高整体系统性能。 2. **在性能要求下的成本优化：**希望部署 AI 模型的公司可以使用模型路由器来选择满足其性能要求的最具成本效益的模型，从而节省大量成本。 3. **改进模型理解：**模型映射技术可用于获得对 AI 模型的更深入理解，使研究人员和开发人员能够更有效地分析和解释其行为。 Martian 的模型路由器是一个突破性的工具，它利用模型映射技术在 AI 应用中实现了更高的性能和更低的成本。通过模型映射来理解语言模型的工作原理，Martian 旨在构建真正出色的 AI 工具。这仅仅是他们朝着创建强大工具之旅的开始，这些工具将有助于更好地理解人工智能并实现新型 AI 基础设施。随着每一次突破，他们都在努力使我们更接近于完全理解 AI 并发展出稳健的智能理论。